Todo comenzó cuando OpenAI puso a disposición del público el chatbot ChatGPT impulsado por IA en noviembre del año pasado… Sí, hace nada. Pronto se convirtió en la aplicación de más rápido crecimiento en la historia, alcanzando los 100 millones de usuarios en apenas dos meses.
Llegamos a abril y su uso había crecido de tal modo que el mismísimo Elon Musk, se unió a miles de personas para firmar una carta abierta en la que pedía una pausa de seis meses en el desarrollo de sistemas más potentes que GPT-4 de OpenAI. En la Unión Europea, un comité de legisladores respondió a la carta respaldada por Elon Musk, pidiendo al presidente de los Estados Unidos, Joe Biden, que convoque una cumbre mundial sobre la dirección futura de la tecnología con la presidenta de la Comisión Europea, Ursula von der Leyen.
La semana pasada, este comité europeo acordó un conjunto histórico de propuestas dirigidas a la IA generativa, que obligaría a empresas como OpenAI a divulgar cualquier material con derechos de autor utilizado para entrenar sus modelos. Países como Alemania o Italia prohíben su uso. Mientras tanto, Biden mantuvo conversaciones con varios líderes de empresas de inteligencia artificial, incluido el director ejecutivo de Alphabet, Sundar Pichai, y el director ejecutivo de OpenAI, Sam Altman, en la Casa Blanca, y prometió una «discusión franca y constructiva» sobre la necesidad de que las empresas sean más transparentes con respecto a sus sistemas, porque cada vez son más voces las que reclaman medidas.
Y ahora le ha tocado a Geoffrey Hinton. Este científico computacional de origen canadiense fue el coautor del estudio Aprendizaje de representaciones mediante errores de propagación inversa, la piedra sobre la que se construyó, en muchos sentidos, el desarrollo de las redes neuronales que propiciaron la tecnología de IA. Más cerca en el tiempo, en 2018, recibió el Premio Turing (un galardón que podría considerarse el Nobel de la IA) en reconocimiento a sus avances en investigación.
Con estos antecedentes, es lógico que la voz de Hinton sea una lo suficientemente autorizada y reconocible como para hablar de inteligencia artificial. Y esa voz se ha unido a un creciente número de líderes tecnológicos que expresan públicamente su preocupación por la posible amenaza que representa la IA si las máquinas lograran una inteligencia mayor que la de los humanos.
¿Debe detenerse la investigación?
En una reciente entrevista Hinton declaró: “No me gustaría devaluar el cambio climático. No me gustaría decir que no deberíamos preocuparnos por ello, es un gran riesgo. Pero creo que esto podría terminar siendo más urgente. Con el cambio climático, es muy fácil recomendar lo que debe hacer: simplemente deje de quemar carbono. Si hace eso, eventualmente las cosas estarán bien. En lo que respecta a las IA, no está nada claro lo que debemos hacer”.
Si bien Hinton comparte la preocupación de quienes firmaron la petición que afirma que la IA pueda resultar una amenaza existencial para la humanidad, no está de acuerdo con detener la investigación.
“Es completamente irreal – concluye Hinton –. Estoy entre los que piensan que esto es un riesgo existencial, y está lo suficientemente cerca como para que debamos trabajar muy duro en este momento y poner muchos recursos para descubrir qué podemos hacer al respecto. Los líderes tecnológicos son quienes mejor lo entienden y los políticos deben participar. Nos afecta a todos, así que todos tenemos que pensar en ello”.
Fuente: adslzone
