OpenAI pasó una semana increíble: despidió y volvió a contratar a Sam Altman en menos de siete días. El drama de los directores ejecutivos parece haber terminado, al menos por ahora. Como usuarios de ChatGPT, todos merecemos una explicación de lo que acaba de suceder entre la junta directiva de OpenAI y el CEO.
Necesitamos saber si OpenAI ha logrado grandes avances en IA que podrían haber preocupado a la junta directiva. Además, debemos saber que la nueva junta seguirá defendiendo el objetivo principal de la organización sin fines de lucro, que es que la empresa desarrolle una IA segura que pueda servir a la humanidad.
La preocupación es que la IA pueda salirse de control una vez que alcance la inteligencia artificial general (AGI). Podría convertirse en una superinteligencia que podría considerar a los humanos una amenaza existencial. Suena como el escenario de varias películas de ciencia ficción, estoy de acuerdo. Pero luego leí un artículo increíblemente detallado sobre lo que sucedió en OpenAI la semana pasada y las preocupaciones colectivas de la humanidad sobre la peligrosa IA. Me hizo darme cuenta de la desagradable verdad sobre nuestra búsqueda para lograr AGI.
La alineación de la IA es algo que quizás haya escuchado mucho desde que apareció ChatGPT. Todo se reduce a algo simple: debemos crear AGI con intereses que se alineen con los nuestros. Es decir, una IA que finalmente no intentará hacernos daño (o erradicarnos) una vez que se dé cuenta de que somos un obstáculo.
Dije antes que estamos “condenados” a alcanzar AGI ahora que tenemos ChatGPT. No podemos volver a meter al genio en la botella ahora que la IA generativa ya no existe. Todos crearemos modelos mejores y más rápidos, y alcanzaremos AGI, lo queramos o no. Lo que queremos, y lo que quiere la organización sin fines de lucro OpenAI, es evitar llegar a AGI antes de que descubramos la alineación.
Fuente: BGR
Para leer más ingresa a: https://bgr.com/tech/the-scariest-thing-i-read-about-openais-altman-fiasco-made-me-realize-the-dangers-of-agi/