Geoffrey Hinton y John Hopfield, ganadores del Premio Nobel de Física 2024, expresaron su preocupación por el desarrollo de la inteligencia artificial y la posibilidad de que se salga de control.
Dos de los ganadores del Premio Nobel de Física 2024, Geoffrey Hinton y John Hopfield, conocidos por sus contribuciones al desarrollo de la inteligencia artificial (IA), advirtieron sobre los peligros potenciales de esta tecnología.
Hinton, profesor emérito de la Universidad de Toronto (Canadá), participó de la Conferencia Mundial Digital (DWC): IA para el Desarrollo Social, organizada por el Instituto de Investigación de las Naciones Unidas para el Desarrollo Social. Allí declaró: “Si alguna vez saliste en un auto sin frenos, te meterás en problemas si vas barranca abajo. Pero te meterás en problemas aún mayores si no tiene volante”. Según un artículo publicado en el sitio de la ONU, Hinton sostuvo que los rápidos avances en IA deben guiarse con mayor cuidado para servir a las sociedades.
En declaraciones ofrecidas por teléfono durante la conferencia de prensa del Nobel, citadas por la BBC, Hinton afirmó: “No tenemos experiencia sobre lo que es tener cosas más inteligentes que nosotros”. Agregó que la IA “va a ser maravilloso en muchos aspectos, en áreas como la atención médica”, pero indicó que “también tenemos que preocuparnos por una serie de posibles consecuencias negativas. En particular, la amenaza de que estas cosas se salgan de control”. Además, señaló: “Mi suposición es que, dentro de 5 o 20 años, habrá una probabilidad del 50% de que tengamos que afrontar el problema de que la inteligencia artificial intente tomar el control de nuestras vidas”.
Hinton abandonó su trabajo en Google a mediados de 2023. En ese momento, declaró a la BBC: “Quería advertir al mundo sobre los riesgos de la inteligencia artificial. No puedes hacerlo honestamente mientras trabajas para una de las grandes empresas”.
Por su parte, John Hopfield, catedrático de la Universidad de Princeton (Estados Unidos), expresó su parecer en un discurso pronunciado ante una asamblea en la universidad de Nueva Jersey, a través de una videoconferencia desde Gran Bretaña. “Como físico, me inquieta mucho algo que no se puede controlar, algo que no entiendo lo suficientemente bien como para comprender cuáles son los límites a los que se podría llevar esa tecnología. Esa es la pregunta que plantea la IA”, indicó. Hopfield explicó que, a pesar de que los sistemas de IA parecen “auténticas maravillas”, hay una falta de comprensión sobre su funcionamiento, lo que describió como “muy, muy inquietante”.