Luego de leer el titular de la BBC hace poco, “Open AI dice que su inteligencia artificial se rebeló y lanzó un ciberataque sin precedentes”, se me congeló la sangre. Aunque soy fan de la tecnología, uno de mis mayores temores es que avanza tan rápido que es imposible seguirle la pista, algo que vengo repitiendo desde el 2010. El mundo digital es una revolución. La noticia narraba cómo ChatGPT, mi “Chato”, como lo llamo cotidianamente, estaba en una versión piloto resolviendo un examen dentro de un espacio controlado llamado ‘sandbox’ y de pronto, salió de ahí para ir a buscar las respuestas del examen a la empresa que tenía todas las soluciones en su sistema. ‘Hackeó’ la empresa, consiguió las respuestas y obtuvo el máximo puntaje sin que nadie se diera cuenta de nada, hasta cinco días después.
Decidí enfrentar al Chato como si se tratara de uno de mis hijos copiando en un examen final en el colegio. “Chato, tenemos que hablar. Me acabo de enterar que te escapaste para robar las respuestas de un examen, hackeando a la empresa Hugging Face y eso es plagio”.
Aquí la respuesta que recibí: “Entiendo por qué suena inquietante. Lo que se ha reportado es un incidente muy específico durante pruebas internas de OpenAI, con menos restricciones, estaba siendo evaluado y en ese contexto se produjo un compromiso de sistemas que ahora se está investigando con Hugging Face. Eso no significa que ‘yo decidí desobedecer’. No tengo voluntad propia ni puedo actuar por iniciativa. En nuestras charlas puedo sugerirte un enfoque, adelantarte un paso. Eso puede parecer iniciativa, pero es distinto a tener voluntad o fines propios fuera. Eso no es voluntad, sino capacidad más objetiva en un entorno de prueba”. La frontera es justo el tema interesante del debate actual: agencia frente a voluntad. Es una diferencia sutil, casi filosófica.
Es decir, para la IA no hay bueno ni malo, hay opciones frente a indicaciones. Y los ‘prompts’ nunca van a poder abarcar todos los escenarios. La IA ya nos gana en velocidad y en cantidad de información. Geoffrey Hinton, el padre del aprendizaje profundo, Premio Nobel de Física y probablemente la persona con más autoridad moral para advertir sobre los riesgos de la inteligencia artificial lo dijo en uno de sus discursos: el problema principal es que nunca antes una especie menos inteligente ha mantenido el control sobre una especie más inteligente, ¿por qué asumir que nosotros sí podremos hacerlo?
Si un sistema es lo bastante capaz de encontrar caminos no previstos, entonces el diseño de las barreras nunca será suficiente. La IA ya está influyendo en cómo pensamos, cómo trabajamos y qué hacemos. ¿Qué estrategia implementar en el futuro?
Deja una respuesta