La fuerte denuncia que realizó un ex investigador de OpenAI y Anthropic acerca del desarrollo de la Inteligencia Artificial y su impacto sobre la vida humana volvió a correr el eje del debate sobre esta tecnología. Tras ello, un alto cargo de la compañía le dio la razón.

"Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década", afirmó Jacob Coxon, y encendió las alarmas.

Este investigador de IA, que trabajó para OpenAI y Anthropic, contó en un posteo de X que renunció a esta última compañía luego de tres años. "Ninguna de ellas está actuando responsablemente. Están corriendo hacia una superinteligencia auto-mejora y jugando con nuestras vidas", aseguró.

Coxon, quien aclaró no estar detrás de una campaña de marketing, trazó una diferencia central entre ambos desarrolladores: "Una respuesta común es 'si de verdad creen esto, ¿por qué siguen con su desarrollo?'. En OpenAI, muchos no tienen profundamente internalizado lo que está en juego para la civilización. En Anthropic sí lo comprenden, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de forma responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo".

Con respecto al futuro, Coxon pronosticó que la IA pronto alcanzará niveles impensandos: "No subestimen el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando".

La respuesta de Anthropic

Evan Hubinger, responsable de Ciencia de Alineación en la compañía, le dio la razón a Coxon y reconoció que aún no tienen un plan para afrontar esta situación ni están cerca de conseguirlo.

"Jacob tiene razón. Realmente creemos que la IA podría matar a todos los humanos. Personalmente, pienso que es menor al 10% dentro de la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo", admitió.

Desde su puesto, Hubinger tiene la función de buscar incorporar ideas y principios éticos humanos a la tecnología, es decir, mantener su desarrollo alineado con aquello que los seres humanos valoran.

Hubinger citó el último Informe de Riesgos de la compañía para reforzar la idea de que creen que el riesgo que representan los modelos actuales "es bajo". Con todo, expresó su preocupación acerca de la superinteligencia que surge del auto-mejoramiento recursivo, "que, como hemos dicho, está ocurriendo más rápido de lo que pensábamos"

El desarrollo de la IA y sus potenciales riesgos para la humanidad no es algo novedoso. En 2023, más de 1000 expertos en tecnología -entre ellos Elon Musk y Steve Wozniak, cofundador de Apple-, firmaron una carta en la que pedían poner un freno a al entrenamiento de los sistemas de IA. En ese momento, alertaban por GPT-4, de OpenAI. Hoy, la empresa acaba de presentar GPT-6 Astra, su modelo más avanzado hasta la fecha.