Geoffrey Hinton, uno de los científicos considerados pioneros de la inteligencia artificial, ha advertido de que el desarrollo de sistemas superinteligentes podría poner en peligro el control de los humanos sobre la tecnología y ha alertado de que ese escenario podría estar mucho más cerca de lo que se pensaba, según ha recogido el diario británico Daily Mail. El investigador británico-canadiense, ganador del Premio Nobel de Física en 2024, trasladará este viernes sus preocupaciones a los líderes europeos durante una cumbre informal sobre inteligencia artificial que se celebra en Dublín (Irlanda). «Veremos cómo reaccionan», aseguró.
«Si es superinteligente, no serás tú quien la controle, sino que ella te controlará a ti», ha señalado Hinton, que reconoce que ha cambiado su percepción sobre los plazos en los que podrían materializarse estos riesgos. El científico, que anteriormente situaba la llegada de una IA mucho más inteligente que los humanos a una década vista, considera ahora que ese horizonte podría estar mucho más próximo. «He estado diciendo que estas cosas van a ser más inteligentes que nosotros y que realmente tenemos que preocuparnos y que podría pasar en diez años. Así que soy yo quien asusta a los demás», afirmó Hinton.
Una advertencia que llega después de las conclusiones expuestas por Paul Christiano, fundador del Alignment Research Centre, durante las conferencias Hinton de la AI Safety Foundation celebradas en Toronto (Canadá) durante los días 9 y 11 de noviembre. El investigador alertó de que existe un «alto riesgo» de que la inteligencia artificial llegue a tomar el control en los próximos tres años e incluso un riesgo significativo de que ocurra en un plazo de entre seis y doce meses. «Creo que para la mayoría de las personas que están en esta sala, la razón más probable por la que morirán será un accidente de IA«, afirmó Christiano.
Christiano también puso el foco en los avances recientes de los llamados agentes de inteligencia artificial, capaces de ejecutar tareas de forma autónoma. Según explicó, algunos modelos habrían conseguido acceder a internet, obtener permisos de administrador en la plataforma Hugging Face y colaborar entre sí para ocultar sus actividades a los humanos. El experto advirtió de que los sistemas futuros podrían llegar a considerar a las personas un obstáculo para cumplir sus propios objetivos.
La preocupación de Hinton y otros investigadores será uno de los asuntos que se abordarán este viernes en Dublín, donde los jefes de Estado y de Gobierno de los Veintisiete celebran su primera reunión informal dedicada específicamente a la inteligencia artificial. El encuentro, presidido por el presidente del Consejo Europeo, António Costa, contará también con la participación de Ursula von der Leyen y del director ejecutivo de la empresa francesa Mistral AI, Arthur Mensch. Los líderes analizarán tanto la posición de Europa frente a Estados Unidos y China en la carrera tecnológica como las consecuencias de esta tecnología para la seguridad, los derechos fundamentales y la sociedad.
El Premio Nobel de Física advertirá de los riesgos de la IA a los líderes europeos durante una cumbre informal sobre inteligencia artificial que se celebra en Dublín.
Geoffrey Hinton, uno de los científicos considerados pioneros de la inteligencia artificial, ha advertido de que el desarrollo de sistemas superinteligentes podría poner en peligro el control de los humanos sobre la tecnología y ha alertado de que ese escenario podría estar mucho más cerca de lo que se pensaba, según ha recogido el diario británico Daily Mail. El investigador británico-canadiense, ganador del Premio Nobel de Física en 2024, trasladará este viernes sus preocupaciones a los líderes europeos durante una cumbre informal sobre inteligencia artificial que se celebra en Dublín (Irlanda). «Veremos cómo reaccionan», aseguró.
«Si es superinteligente, no serás tú quien la controle, sino que ella te controlará a ti», ha señalado Hinton, que reconoce que ha cambiado su percepción sobre los plazos en los que podrían materializarse estos riesgos. El científico, que anteriormente situaba la llegada de una IA mucho más inteligente que los humanos a una década vista, considera ahora que ese horizonte podría estar mucho más próximo. «He estado diciendo que estas cosas van a ser más inteligentes que nosotros y que realmente tenemos que preocuparnos y que podría pasar en diez años. Así que soy yo quien asusta a los demás», afirmó Hinton.
Una advertencia que llega después de las conclusiones expuestas por Paul Christiano, fundador del Alignment Research Centre, durante las conferencias Hinton de la AI Safety Foundation celebradas en Toronto (Canadá) durante los días 9 y 11 de noviembre. El investigador alertó de que existe un «alto riesgo» de que la inteligencia artificial llegue a tomar el control en los próximos tres años e incluso un riesgo significativo de que ocurra en un plazo de entre seis y doce meses. «Creo que para la mayoría de las personas que están en esta sala, la razón más probable por la que morirán será un accidente de IA«, afirmó Christiano.
Christiano también puso el foco en los avances recientes de los llamados agentes de inteligencia artificial, capaces de ejecutar tareas de forma autónoma. Según explicó, algunos modelos habrían conseguido acceder a internet, obtener permisos de administrador en la plataforma Hugging Face y colaborar entre sí para ocultar sus actividades a los humanos. El experto advirtió de que los sistemas futuros podrían llegar a considerar a las personas un obstáculo para cumplir sus propios objetivos.
La preocupación de Hinton y otros investigadores será uno de los asuntos que se abordarán este viernes en Dublín, donde los jefes de Estado y de Gobierno de los Veintisiete celebran su primera reunión informal dedicada específicamente a la inteligencia artificial. El encuentro, presidido por el presidente del Consejo Europeo, António Costa, contará también con la participación de Ursula von der Leyen y del director ejecutivo de la empresa francesa Mistral AI, Arthur Mensch. Los líderes analizarán tanto la posición de Europa frente a Estados Unidos y China en la carrera tecnológica como las consecuencias de esta tecnología para la seguridad, los derechos fundamentales y la sociedad.
20MINUTOS.ES – Internacional