Durante las últimas semanas, el debate acerca de frenar el desarrollo de la IA (Inteligencia Artificial) y realizar las pruebas de seguridad correspondientes, fueron parte de la agenda. Una vez que salió del ojo de la tormenta, el director ejecutivo de OpenAI, Sam Altman dio una entrevista sobre este tema.
En el podcast de Lex Friedman, Altman conversó por más de una hora ante el micrófono detalles sobre el desarrollo de la IA. Temas como la seguridad de la IA; sus pruebas antes de lanzarse y su relación con Elon Musk, quien fue parte del pedido de pausar modelos de la IA.
“Estamos construyendo en público y sacando tecnología porque creemos que es importante que el mundo tenga acceso temprano a IA para poder encontrar las cosas buenas, y las malas”, dijo. Al respecto del lanzamiento de las aplicaciones -como ChatGTP y GTP 4– observó: “la inteligencia colectiva y la capacidad del mundo exterior nos ayudó a pensar cosas que no imaginábamos”.
En la misma línea habló de una especie de retroalimentación y del desarrollo mediantes “prueba y error”. Sam dijo que en esta parte del proceso sobre el desarrollo de la IA “hay poco que perder”.
Sam Altman acerca de la seguridad de GTP4
Seguido de Chat GTP, a mediados de marzo Chat GTP4 fue el lanzamiento que dio que hablar; puesto que esta IA de OpenIA podía interpretar imágenes y describir las mismas. Claro, que solo está disponible para aquelles que paguen por una suscripción premium.Aún no está disponible para uso público.
Sobre las pruebas de seguridad de Chat GTP4, Altman informó que fueron terminadas durante el verano. “Enviamos al equipo rojo a realizar sus pruebas y empezamos a hacer pruebas internas de seguridad. Empezamos a realizar técnicas de alineación”, dijo.
Sobre los usos de GTP4
Sobre las controversias que surgieron acerca de las respuestas de Chat GTP 4 dijo que no hay un consenso sobre las respuestas a nivel social. Es decir, dijo que complejo hablar de “las respuestas correctas para la humanidad”. Pero explicó que fueron creadas a partir de RLHF (Reinforcement Learning from Human Feedback); aprende por retroalimentación del factor humano en otras palabras, todas las búsquedas lo ayudan a crecer.
En tanto la transformación del mundo de la programación, luego de seis días de haber lanzado GTP 4 a Sam le sorprendió ver cómo sus amigos comenzaron a programar desde entonces. Sobre este punto explicó que mientras más interacción tengan les usuarios, más podrán explotar su creatividad.
Acerca de su relación con Elon Musk
Elon Musk fue parte de OpenAI hasta que decidió alejarse por intereses en contraposición con Tesla. Ambos, representan las grandes mentes empresariales a nivel tecnológico hoy y mantienen opiniones compartidas, y otras no tanto. “estamos de acuerdo en la magnitud de las desventajas que podría significar IA; también la necesidad de lograr no solo la seguridad correcta sino también de hacer que las personas estén mejor”, sostuvo.
Sobre la postura que tomó Musk y su pedido de frenar los modelos más desarrollados de IA sostuvo que es una manera de atacarlos. No obstante dijo que entiende que su preocupación es principalmente la seguridad de la IA.