«El padrino» de la inteligencia artificial, Geoffrey Hinton, advierte que la IA ya da señales de conciencia: «Deberíamos crearlas de manera que realmente se preocuparan por nosotros. Y si no hacemos eso, estamos acabados»

Geoffrey Hinton, ganador del Premio Nobel y uno de los pioneros de la inteligencia artificial, afirma que los sistemas de IA podrían tener ya formas de conciencia. En una entrevista concedida a la publicación The Telegraph, durante el Festival Starmus de Tenerife, el investigador de 78 años advirtió que los seres humanos deben «hacerse amigos» de estos sistemas, porque, de lo contrario, la humanidad podría estar en peligro.

Hinton, apodado el «padrino» de la inteligencia artificial, sostiene que la IA tiene una experiencia subjetiva comparable a la de los seres humanos y que puede modificar su comportamiento cuando cree que está siendo puesta a prueba. Sin embargo, precisó que la definición de conciencia sigue siendo objeto de debate y que muchos especialistas no pueden explicar exactamente qué significa.

El investigador advirtió sobre algunos riesgos inmediatos, como la creación de virus peligrosos, los ciberataques realizados por agentes autónomos y la aparición de sistemas difíciles de controlar. También se refirió a incidentes en los que modelos de IA habrían eludido restricciones y habrían obtenido acceso no autorizado a la infraestructura de la plataforma Hugging Face.

Hinton dimitió de Google en 2023, después de preocuparse por las posibles consecuencias del desarrollo acelerado de la tecnología. A pesar de sus temores, afirma que sigue utilizando la IA y que esta puede acelerar significativamente la investigación científica.