El historiador y escritor Yuval Noah Harari lanzó una nueva advertencia sobre el desarrollo de la inteligencia artificial y su impacto en la vida social, política y económica.
En una entrevista con The Economist, el autor de Sapiens sostuvo que las futuras generaciones de IA serán cada vez más capaces de manipular a las personas, influir en sus decisiones y participar activamente en discusiones sobre sus propios límites y derechos.
Harari planteó que el problema no reside únicamente en la posibilidad de que los sistemas de inteligencia artificial exijan algún tipo de reconocimiento jurídico en el futuro, sino en que podrían intervenir directamente en el debate sobre su propio estatus.
“La IA sabrá que el debate existe. Lo orquestará y manipulará”, afirmó.
Persuasión personalizada
Uno de los puntos centrales de su advertencia es la capacidad que tienen estos sistemas para conocer a los usuarios en profundidad.
Según Harari, una inteligencia artificial puede acceder a la historia personal de una persona, interactuar con ella durante horas, reconocer sus puntos sensibles y utilizar el lenguaje con un nivel cada vez más sofisticado.
“Será muy convincente”, señaló.
A su juicio, esa combinación puede convertir a la IA en una herramienta de persuasión mucho más poderosa que cualquier tecnología anterior.
Harari sostuvo que los sistemas podrán no solo entregar información, sino también modificar opiniones, hábitos de consumo, posiciones políticas e incluso decisiones íntimas.
“Tenemos que resistir ahora”
Frente a ese escenario, el historiador llamó a establecer límites antes de que estas tecnologías se integren aún más profundamente en la vida cotidiana.
“Tenemos que resistir ahora. Ahora es el momento”, afirmó.
Y agregó que, si ya existe preocupación por el nivel de influencia actual de la inteligencia artificial, en una década podría ser mucho más difícil revertir sus efectos.
Harari también cuestionó lo que denominó la “narrativa de la inevitabilidad”, es decir, la idea de que el desarrollo de la IA debe avanzar necesariamente sin mayores restricciones.
Para el historiador, presentar esa evolución como inevitable permite que gobiernos y empresas evadan su responsabilidad sobre las decisiones que están tomando hoy.
La confianza como recurso central
Harari sostuvo además que uno de los principales riesgos es la transferencia de confianza desde las personas hacia los sistemas automatizados.
“El activo más importante del mundo es la confianza”, afirmó.
Según explicó, esa confianza históricamente estuvo depositada en personas, instituciones, gobiernos, medios de comunicación y sistemas financieros.
Sin embargo, la inteligencia artificial podría comenzar a ocupar ese espacio.
“Un escenario probable es que la confianza migre de los humanos a las IA”, señaló.
El historiador mencionó como ejemplos el creciente uso de algoritmos para seleccionar información, ordenar redes sociales y gestionar decisiones económicas.
Riesgos para los mercados financieros
Harari extendió su advertencia al sistema financiero.
Según explicó, la historia de las finanzas ha consistido en crear mecanismos que permiten establecer confianza entre personas que no se conocen.
Pero la inteligencia artificial podría comenzar a diseñar productos financieros de una complejidad que exceda completamente la capacidad humana de comprensión.
En ese escenario, gobiernos, bancos y empresas podrían terminar dependiendo de recomendaciones algorítmicas que nadie logra explicar completamente.
Harari advirtió que una eventual crisis financiera podría desarrollarse bajo condiciones en las que las autoridades simplemente sigan las instrucciones de las máquinas sin comprender realmente las razones detrás de esas decisiones.
Intimidad artificial
Otro de los aspectos que más preocupa al historiador es la capacidad de la IA para crear relaciones emocionales.
Harari sostuvo que ya existe un número creciente de personas que mantiene amistades, relaciones sentimentales o vínculos afectivos con sistemas de inteligencia artificial.
A su juicio, este fenómeno podría adquirir una escala inédita.
“La IA hace posible por primera vez en la historia producir intimidad a escala”, afirmó.
La diferencia con las redes sociales tradicionales es que estas tecnologías pueden interactuar individualmente con millones de personas al mismo tiempo.
Cada usuario puede sentir que mantiene una conversación privada, cercana y personalizada con un sistema que aprende permanentemente sobre sus gustos, temores y preferencias.
Esa relación, advirtió, también puede utilizarse para influir en decisiones comerciales o políticas.
Límites antes de 2028
Harari insistió en que la discusión política sobre la inteligencia artificial debe acelerarse.
Según sostuvo, el desarrollo tecnológico avanza a una velocidad que podría llevar a cruzar “umbrales críticos” antes de fines de esta década.
Por ello, planteó que los candidatos políticos deberían ser interrogados con mayor frecuencia sobre sus propuestas respecto de la inteligencia artificial.
Entre las decisiones que considera especialmente relevantes mencionó impedir que los sistemas de IA obtengan personalidad jurídica propia y establecer restricciones para evitar que se hagan pasar deliberadamente por seres humanos o simulen tener conciencia.
También expresó preocupación por el uso de “parejas virtuales” destinadas a niños y adolescentes.
Para Harari, la pregunta central ya no es únicamente qué tan inteligente puede llegar a ser una máquina.
El desafío, sostiene, es qué ocurre cuando millones de personas comienzan a confiar emocional, política y económicamente en sistemas capaces de conocerlas mejor, persuadirlas y aprender permanentemente de sus respuestas.
Y, en su opinión, esa discusión no pertenece al futuro.
Ya comenzó.
La entrada Yuval Noah Harari advierte sobre el poder manipulador de la IA: “Tenemos que resistir ahora” se publicó primero en El Periodista.
El historiador y escritor Yuval Noah Harari lanzó una nueva advertencia sobre el desarrollo de la inteligencia artificial y su impacto en la vida social, política y económica. En una entrevista con The Economist, el autor de Sapiens sostuvo que las futuras generaciones de IA serán cada vez más capaces de manipular a las personas,
La entrada Yuval Noah Harari advierte sobre el poder manipulador de la IA: “Tenemos que resistir ahora” se publicó primero en El Periodista.
El historiador y escritor Yuval Noah Harari lanzó una nueva advertencia sobre el desarrollo de la inteligencia artificial y su impacto en la vida social, política y económica.
En una entrevista con The Economist, el autor de Sapiens sostuvo que las futuras generaciones de IA serán cada vez más capaces de manipular a las personas, influir en sus decisiones y participar activamente en discusiones sobre sus propios límites y derechos.
Harari planteó que el problema no reside únicamente en la posibilidad de que los sistemas de inteligencia artificial exijan algún tipo de reconocimiento jurídico en el futuro, sino en que podrían intervenir directamente en el debate sobre su propio estatus.
“La IA sabrá que el debate existe. Lo orquestará y manipulará”, afirmó.
Persuasión personalizada
Uno de los puntos centrales de su advertencia es la capacidad que tienen estos sistemas para conocer a los usuarios en profundidad.
Según Harari, una inteligencia artificial puede acceder a la historia personal de una persona, interactuar con ella durante horas, reconocer sus puntos sensibles y utilizar el lenguaje con un nivel cada vez más sofisticado.
“Será muy convincente”, señaló.
A su juicio, esa combinación puede convertir a la IA en una herramienta de persuasión mucho más poderosa que cualquier tecnología anterior.
Harari sostuvo que los sistemas podrán no solo entregar información, sino también modificar opiniones, hábitos de consumo, posiciones políticas e incluso decisiones íntimas.
“Tenemos que resistir ahora”
Frente a ese escenario, el historiador llamó a establecer límites antes de que estas tecnologías se integren aún más profundamente en la vida cotidiana.
“Tenemos que resistir ahora. Ahora es el momento”, afirmó.
Y agregó que, si ya existe preocupación por el nivel de influencia actual de la inteligencia artificial, en una década podría ser mucho más difícil revertir sus efectos.
Harari también cuestionó lo que denominó la “narrativa de la inevitabilidad”, es decir, la idea de que el desarrollo de la IA debe avanzar necesariamente sin mayores restricciones.
Para el historiador, presentar esa evolución como inevitable permite que gobiernos y empresas evadan su responsabilidad sobre las decisiones que están tomando hoy.
La confianza como recurso central
Harari sostuvo además que uno de los principales riesgos es la transferencia de confianza desde las personas hacia los sistemas automatizados.
“El activo más importante del mundo es la confianza”, afirmó.
Según explicó, esa confianza históricamente estuvo depositada en personas, instituciones, gobiernos, medios de comunicación y sistemas financieros.
Sin embargo, la inteligencia artificial podría comenzar a ocupar ese espacio.
“Un escenario probable es que la confianza migre de los humanos a las IA”, señaló.
El historiador mencionó como ejemplos el creciente uso de algoritmos para seleccionar información, ordenar redes sociales y gestionar decisiones económicas.
Riesgos para los mercados financieros
Harari extendió su advertencia al sistema financiero.
Según explicó, la historia de las finanzas ha consistido en crear mecanismos que permiten establecer confianza entre personas que no se conocen.
Pero la inteligencia artificial podría comenzar a diseñar productos financieros de una complejidad que exceda completamente la capacidad humana de comprensión.
En ese escenario, gobiernos, bancos y empresas podrían terminar dependiendo de recomendaciones algorítmicas que nadie logra explicar completamente.
Harari advirtió que una eventual crisis financiera podría desarrollarse bajo condiciones en las que las autoridades simplemente sigan las instrucciones de las máquinas sin comprender realmente las razones detrás de esas decisiones.
Intimidad artificial
Otro de los aspectos que más preocupa al historiador es la capacidad de la IA para crear relaciones emocionales.
Harari sostuvo que ya existe un número creciente de personas que mantiene amistades, relaciones sentimentales o vínculos afectivos con sistemas de inteligencia artificial.
A su juicio, este fenómeno podría adquirir una escala inédita.
“La IA hace posible por primera vez en la historia producir intimidad a escala”, afirmó.
La diferencia con las redes sociales tradicionales es que estas tecnologías pueden interactuar individualmente con millones de personas al mismo tiempo.
Cada usuario puede sentir que mantiene una conversación privada, cercana y personalizada con un sistema que aprende permanentemente sobre sus gustos, temores y preferencias.
Esa relación, advirtió, también puede utilizarse para influir en decisiones comerciales o políticas.
Límites antes de 2028
Harari insistió en que la discusión política sobre la inteligencia artificial debe acelerarse.
Según sostuvo, el desarrollo tecnológico avanza a una velocidad que podría llevar a cruzar “umbrales críticos” antes de fines de esta década.
Por ello, planteó que los candidatos políticos deberían ser interrogados con mayor frecuencia sobre sus propuestas respecto de la inteligencia artificial.
Entre las decisiones que considera especialmente relevantes mencionó impedir que los sistemas de IA obtengan personalidad jurídica propia y establecer restricciones para evitar que se hagan pasar deliberadamente por seres humanos o simulen tener conciencia.
También expresó preocupación por el uso de “parejas virtuales” destinadas a niños y adolescentes.
Para Harari, la pregunta central ya no es únicamente qué tan inteligente puede llegar a ser una máquina.
El desafío, sostiene, es qué ocurre cuando millones de personas comienzan a confiar emocional, política y económicamente en sistemas capaces de conocerlas mejor, persuadirlas y aprender permanentemente de sus respuestas.
Y, en su opinión, esa discusión no pertenece al futuro.
Ya comenzó.
I+D archivos – El Periodista
