Zürcher Nachrichten - Los Nobel de Física alertan sobre los recientes avances de la IA

El estadounidense Hopfield, profesor emérito de la Universidad de Princeton, pidió una mejor comprensión del funcionamiento de estos sistemas para evitar que se tornen incontrolables.

A través de un video grabado desde Gran Bretaña para una reunión en la Universidad de Nueva Jersey, el investigador de 91 años recordó que que durante su vida ha sido testigo del surgimiento de dos tecnologías poderosas pero potencialmente peligrosas: la ingeniería biológica y la física nuclear.

"Estamos acostumbrados a tecnologías que no son solo buenas o malas, sino que pueden funcionar en ambos sentidos", afirmó.

"Como físico, me preocupa mucho algo que no está controlado, algo que no entiendo suficientemente como para saber qué límites se podrían imponer a esta tecnología", añadió.

Los sistemas modernos de IA lucen como "absolutas maravillas", pero todavía no se comprende bien cómo funcionan, lo que es "muy, muy preocupante", enfatizó.

"Es por eso que, al igual que Geoffrey Hinton (copremiado con el Nobel), abogo firmemente por una mejor comprensión", y reconoció que la ISA "desarrollaría capacidades que van más allá de las que se puedan imaginar ahora".

- ¿La IA tomará el control?

Con el vertiginoso ascenso de la inteligencia artificial y la feroz carrera entre empresas, algunos críticos señalan que esta tecnología está evolucionando más rápido de lo que los científicos pueden comprender.

Hopfield y el británico-canadiense Hinton, conocido como "el padrino de la IA" ganaron el martes el premio Nobel de Física por su trabajo pionero sobre las bases de la inteligencia artificial, y ambos han alertado sobre la tecnología que ayudaron a crear.

Las investigaciones de ambos sobre las redes neuronales que se remontan a la década de 1980 allanaron el camino para los sistemas de aprendizaje profundo de hoy, que prometen una revolución en la sociedad pero que hace temer por sus alcances.

El mismo Hinton, de 76 años, conocido como un pesimista de la IA, volvió a alertar este martes sobre los riesgos en una rueda de prensa en la Universidad de Toronto, de la cual es profesor emérito.

"Si miras a tu alrededor, hay muy pocos ejemplos de cosas más inteligentes que son controladas por cosas menos inteligentes, lo que hace que te preguntes si cuando la IA sea más inteligente que nosotros tomará el control...", planteó a los periodistas.

También reconoció que actualmente es imposible saber cómo escapar de los escenarios catastróficos, y "por eso necesitamos más investigación urgentemente".

"Nuestros mejores investigadores jóvenes, o muchos de ellos, deberían trabajar en la seguridad de la IA, y los gobiernos deberían obligar a las grandes empresas a proporcionar las instalaciones que necesiten para hacerlo", añadió.

El miércoles se entregará el Nobel de química, y el jueves y el viernes se anunciarán los premios de literatura y de la paz.

El Nobel de economía cerrará la temporada de 2024 el 14 de octubre.

N.Zaugg--NZN