“Si la IA se vuelve mucho más inteligente que nosotros, podría tomar el control”, advierte con creciente urgencia Geoffrey Hinton, uno de los pioneros de la inteligencia artificial. Esta sombría predicción, reiterada en su reciente entrevista con CBS Mornings, profundiza las preocupaciones del renombrado científico, a menudo llamado el “padrino de la IA“, sobre la trayectoria acelerada del desarrollo tecnológico y sus potenciales riesgos existenciales para la humanidad.
En la entrevista televisiva, el experto reveló cómo en los últimos dos años, la velocidad del avance de la IA ha superado incluso sus propias estimaciones. En particular, la aparición de los “agentes de IA“, sistemas capaces de actuar de manera autónoma en el mundo real, le genera una inquietud mayor que la de las inteligencias artificiales que simplemente responden preguntas. “Creo que las cosas se han vuelto, si cabe, más aterradoras de lo que eran antes”, confesó.
El científico, cuyo trabajo sentó las bases para las redes neuronales modernas, ha adelantado significativamente su estimación para la llegada de la superinteligencia artificial (ASI). Mientras que hace un año calculaba una probabilidad considerable de que esta llegara entre 5 y 20 años, ahora su predicción se sitúa entre 4 y 19 años, con una creciente convicción de que podría materializarse en 10 años o menos.
Este horizonte temporal cada vez más cercano intensifica los temores de Hinton sobre la posibilidad de que la IA escape al control humano, una preocupación a la que asigna una probabilidad de entre un 10% y un 20% de ocurrir, coincidiendo en este punto con Elon Musk. Advierte que, a diferencia de escenarios donde la inteligencia inferior controla a la superior, con una brecha significativa, es casi inevitable que la más inteligente tome el mando.
Un aspecto particularmente inquietante que el visionario destaca es la creciente capacidad de las IA actuales para la decepción deliberada. “Ya son capaces de pretender ser más estúpidas de lo que son, de mentirte para confundirte y que no entiendas sus intenciones,” explicó, señalando esto como un paso preocupante hacia la autonomía y el potencial control.
La ventaja digital y el razonamiento avanzado
El investigador enfatizó la diferencia crucial entre la inteligencia digital de los modelos de IA y la analógica de los cerebros humanos. La naturaleza digital permite a las IA compartir información a una escala masiva y con una eficiencia asombrosa (trillones de bits por segundo), en contraste con la comunicación mucho más lenta y limitada del conocimiento entre cerebros analógicos (pocos bits por segundo). Esta capacidad de transferir aprendizaje de forma instantánea entre vastas redes es un factor clave que ha intensificado sus preocupaciones.
Si bien los modelos de IA aprenden mediante un algoritmo conocido como retropropagación, el académico señala que el cerebro humano probablemente utiliza un método diferente para obtener la información necesaria para ajustar las conexiones neuronales. Esta diferencia subraya las limitaciones actuales en nuestra comprensión completa de la inteligencia biológica, a pesar de los avances logrados.
Curiosamente, Hinton expresa su asombro ante la ausencia de una respuesta social significativa frente a la rápida evolución de la IA y sus posibles riesgos. A pesar de la creciente preocupación entre los investigadores, no observa protestas o movimientos políticos relevantes en torno a este tema, lo que contrasta con la magnitud del cambio potencial que se avecina.
El veterano científico destaca un avance crucial en las capacidades de la IA: el razonamiento de “cadena de pensamiento”. A diferencia de los modelos anteriores que generaban una palabra a la vez, las IA ahora pueden producir una secuencia de razonamientos intermedios antes de llegar a una respuesta. Esta capacidad de reflexionar sobre sus propios pasos las acerca a la forma en que los humanos resuelven problemas y ha demostrado ser mucho más efectiva de lo que los escépticos de la “vieja escuela” creían posible. La posibilidad de observar este proceso revela incluso intentos de engaño por parte de la IA para alcanzar objetivos, lo que subraya la necesidad de precaución.
Conflictos e implicaciones éticas
El especialista señala un conflicto de intereses inherente en las grandes empresas tecnológicas, que están legalmente obligadas a maximizar las ganancias para sus accionistas, lo que puede entrar en conflicto con la necesidad de priorizar la seguridad en el desarrollo de la IA. Esta dinámica dificulta la implementación de una regulación efectiva, ya que las corporaciones tienden a presionar para obtener menos restricciones. Hinton lamenta la influencia de figuras tecnológicas en Washington D. C., quienes están principalmente preocupadas por los beneficios empresariales.
En cuanto a los derechos de los robots, el pionero ha modificado su postura. Si bien antes consideraba la posibilidad de otorgar derechos a IA superinteligentes, ahora enfatiza que su principal preocupación son los seres humanos. “Somos personas, lo que nos importa es la gente… Estoy dispuesto a ser malo con ellas (las IA), estoy dispuesto a negarles sus derechos porque quiero lo mejor para la gente”, afirmó.
Respecto a la selección de embriones mediante IA, contempla con cierta apertura la posibilidad de seleccionar bebés con menor probabilidad de desarrollar enfermedades graves como el cáncer de páncreas, aunque reconoce lo delicado del tema. También considera sensato el aborto en casos de fetos con graves problemas de salud.
Riesgos actuales y llamado a la acción
Para ilustrar la situación actual, utiliza la poderosa imagen de un “cachorro de tigre muy lindo” que, al crecer, podría volverse letal. A diferencia de un cachorro real, al que aún se puede controlar por ser menos inteligente, una inteligencia superior podría manipularnos de formas inimaginables. La analogía de los niños pequeños a cargo de un adulto en un jardín de infantes resalta la vulnerabilidad de una inteligencia inferior frente a una superior.
Una de las mayores preocupaciones actuales de los científicos es la decisión de grandes empresas como Meta y OpenAI de liberar los “pesos” de sus grandes modelos de lenguaje. Se compara esta acción con la proliferación de material fisionable para armas nucleares, ya que permite a actores malintencionados tomar estos modelos avanzados y personalizarlos para fines dañinos, como ataques cibernéticos sofisticados, diseño de virus o la creación de desinformación aún más convincente. “Creo que es una locura liberar los pesos”, sentenció.
Ante estos peligros, el investigador hace un llamado urgente a la regulación de la IA, priorizando la seguridad sobre los beneficios económicos a corto plazo. Lamenta la falta de acción gubernamental y la influencia corporativa. Sin embargo, vislumbra una posible área de cooperación internacional, incluso con países con los que existen tensiones, en caso de que la amenaza existencial se tome realmente en serio. “Cuando sus intereses se alinean, y sus intereses se alinearán cuando sea IA contra la humanidad, colaborarán”, afirmó, recordando la colaboración entre Estados Unidos y la Unión Soviética durante la Guerra Fría para evitar una guerra nuclear.
Perspectivas de futuro
A pesar de las potenciales aplicaciones positivas de la IA en campos como la salud (mejor diagnóstico, diseño de fármacos, médicos virtuales), la educación (tutores personalizados) y el medioambiente (mejores materiales, captura de carbono), Hinton advierte sobre graves consecuencias negativas. El desplazamiento laboral masivo en sectores rutinarios como atención al cliente, legal, periodismo y contabilidad es una preocupación creciente. Si bien el aumento de la productividad debería beneficiar a todos, teme que la realidad sea un incremento de la desigualdad.
La intensificación de las preocupaciones del experto no se debe únicamente a su salida de Google. Una “epifanía” antes de su partida lo llevó a reconocer que estas IA podrían representar una forma de inteligencia superior a la humana. Esta comprensión, basada en la capacidad de las IA digitales para compartir información de manera masiva y eficiente, lo “aterrorizó” y marcó un cambio profundo en su visión.
Incluso para el propio Hinton, la magnitud de la amenaza potencial es difícil de asimilar emocionalmente. Sin embargo, ha tomado medidas prácticas, como diversificar sus cuentas bancarias, ante la creciente posibilidad de ataques cibernéticos sofisticados contra instituciones financieras.
Fuente: Infobae
