Mirarda desde el futuro para entender el presente de la IA

https://www.eltribuno.com/opiniones/2025-8-30-0-0-0-una-mirada-desde-el-futuro-para-entender-el-presente-de-la-ia

Les comparto una opinión sobre ética en la IA que me publicó el diario El Tribiuno, de Salta, Argentina. La titulé Una mirada desde el futuro para entender el presente de la IA

Por Ricardo Trotti

Le pedimos que escriba un mail, un discurso que defendemos como propio y hasta le aceptamos las alucinaciones que inventa. La consultamos por una erupción en la piel, por el “mal de ojo” y conversamos con ella como si fuera una amiga más.

La Inteligencia Artificial Generativa ya no es un experimento de laboratorio: es un copiloto invisible al que le entregamos parte del volante con entusiasmo. Pero lo hacemos con la inquietud de viajar sin mapa, sin saber a dónde nos llevará. Ese miedo es el que marca nuestro tiempo.

Ese miedo divide la conversación global en dos polos: el optimismo tecnológico que ofrece soluciones mágicas, y el pesimismo distópico que advierte sobre desempleo masivo y control algorítmico.

Para escapar de esa trampa, busqué distancia en la ficción. En mi novela Robots con Alma: atrapados entre la verdad y la libertad imaginé un futuro para mirar el presente como si ya fuera historia. Descubrí algo fundamental: sin un marco ético robusto para la IA, no estaremos condenados al apocalipsis, pero sí a perder el rumbo de nuestra humanidad.

El inquilino

La IA es como un inquilino que vive en nuestra casa y nunca deja de observar y escuchar. Cada búsqueda en Google, cada chat en WhatsApp, cada video en TikTok revela nuestras dudas, emociones y fobias. Con esos datos, los algoritmos nos encierran en burbujas que refuerzan nuestras creencias y suprimen las voces disidentes. Lo que se celebra en el mundo digital como personalización no es otra cosa que vigilancia.

El riesgo no termina en la pantalla. Los sistemas de geolocalización informan que no estamos en casa; una invitación abierta para los ladrones. Los dispositivos de salud que monitorean nuestro sueño o pulso son valiosos para el bienestar, pero también radiografías íntimas que, filtradas, pueden ser utilizadas por aseguradoras o empleadores. Y los datos financieros que entregamos al comprar en línea pueden transformarse en fraudes que vacían cuentas en segundos.

La objetividad de la IA es un espejismo. Amazon debió desechar un sistema de contratación porque penalizaba a las mujeres, y programas judiciales como COMPAS en EE.UU. demostraron cómo la IA puede amplificar discriminaciones existentes. La máquina no es malvada: solo replica la injusticia de los datos con los que se alimenta.

El mayor peligro de la IA aparece cuando habla con excesiva seguridad. No miente con malicia, pero sus ficciones pueden ser devastadoras. La promesa de un “Dr. ChatGPT” resucitó el viejo problema del autodiagnóstico. En salud mental, su incapacidad de empatía puede profundizar el aislamiento en lugar de curar.

Las alucinaciones no son errores triviales. En 2024, un empleado en Hong Kong transfirió más de 25 millones de dólares tras una videollamada con clones digitales de sus jefes, creados con deepfake. En el terreno político, la amenaza es mayor: en India y Estados Unidos circularon audios falsos atribuidos a líderes que jamás hablaron.

El riesgo no se limita a la esfera individual: también golpea a profesiones que son columna vertebral de la democracia. El periodismo es el caso más evidente. Si antes Google y Facebook condicionaban el tráfico hacia los medios, hoy los motores de IA directamente absorben y resumen las noticias sin devolver audiencia a sus fuentes. La prensa pierde recursos y la sociedad pierde a su vigilante. Una máquina puede narrar los hechos, pero no incomodar al poder ni sentir empatía por los vulnerables.

Romper el ciclo de siempre

La historia muestra un patrón suicida: primero celebramos la innovación, luego padecemos sus vicios y solo después regulamos. Así ocurrió con la Revolución Industrial; recién regulamos después de sufrir la explotación laboral y el trabajo infantil. Y pasó lo mismo con Internet; recién debatimos sobre la violación de la privacidad tras el escándalo de Cambridge Analytica, que reveló cómo se manipularon datos de millones de usuarios para influir en elecciones en EE.UU. y el Brexit.

La diferencia positiva es que con la IA se intenta romper este ciclo. Por primera vez, el debate sobre sus riesgos está en el centro de la agenda global antes de la catástrofe. La Unión Europea aprobó en 2024 la primera Ley Integral de IA, que prohíbe aplicaciones inaceptables como la “puntuación social” y exige transparencia en modelos como ChatGPT. La UNESCO, por su parte, fijó principios éticos globales en torno a la dignidad, los derechos humanos y la sostenibilidad.

Mientras tanto, las grandes tecnológicas ensayan un “maquillaje ético” que funciona más como marketing que como responsabilidad. Comités simbólicos, principios grandilocuentes y promesas vacías. La ética sin consecuencias termina siendo relaciones públicas.

Frente a ello, el verdadero contrapeso han sido los whistleblowers o soplones desde las mismas tecnológicas: Frances Haugen revelando el daño de Instagram en adolescentes, Peiter Zatko denunciando fallas de seguridad en Twitter, Timnit Gebru exponiendo sesgos en los modelos de Google. El sistema reconoce su valor con leyes que los protegen en Occidente, aunque en China y otros países autoritarios el denunciante es castigado como subversivo.

El precio de la confianza

La nueva tendencia es incrustar la ética en la propia ingeniería: model cards que explican sesgos, red-teaming para detectar fallas antes de salir al mercado, marcas de agua invisibles para identificar contenidos generados por IA. Incluso han surgido empresas que venden auditorías de sesgo como si fueran certificaciones de calidad. Por suerte, la ética ya no es discurso y empieza a ser producto.

Nada de esto ocurre en el vacío. La IA es la nueva frontera del poder mundial. La pugna entre EE.UU. y China no es ideológica, es estratégica. Los chips son el nuevo petróleo y las tierras raras, el botín codiciado. Para América Latina y África, el riesgo es repetir un colonialismo digital: exportar datos en bruto e importar productos terminados.

El otro dilema es energético. Entrenar modelos como GPT-4 o 5 requiere la energía de ciudades enteras y la industria mantiene en secreto el verdadero costo energético, una caja negra que impide medir el impacto ambiental real. Google, Microsoft y Amazon planean recurrir a energía nuclear para sostener la demanda y no hay certeza sobre si asumirán los riesgos que ello implica.

Sería miope hablar solo de riesgos. La IA detecta patrones en mamografías que salvan vidas, predice la estructura de proteínas con la que se diseñan fármacos o anticipa sequías que permiten distribuir ayuda humanitaria antes de la hambruna.

No se trata de elegir entre un inquilino vigilante o uno salvador, sino de establecer reglas de convivencia.

El debate público

La respuesta más poderosa frente a la opacidad no es esperar una ley perfecta, sino iniciar un debate público robusto. Se necesita una alfabetización digital que enseñe a dudar de la IA: que los ingenieros estudien filosofía, que los abogados entiendan de algoritmos, que los periodistas cuestionen cajas negras como cuestionan discursos políticos.

La educación es ya un campo de batalla. Para muchos, ChatGPT se ha vuelto un atajo que resuelve tareas, pero al mismo tiempo amenaza con atrofiar el pensamiento crítico. El reto no es prohibirlo, sino enseñar a usarlo sin renunciar al esfuerzo de aprender y razonar.

De todo esto emergen los grandes dilemas que definen nuestra relación con la IA: privacidad, sesgos, responsabilidad legal, transparencia, seguridad, calidad de los datos, propiedad intelectual, impacto laboral, ambiental y psicológico, soberanía digital, colapso de modelos y autonomía humana.

Y más allá, tres nuevos desafíos: la irrupción de robots humanoides, los agentes autónomos capaces de tomar decisiones por nosotros y la concentración del poder computacional en pocas corporaciones.

El penúltimo dilema es existencial: cómo nos preparamos para una superinteligencia, una IA General que superará al ser humano. Y el último, el más íntimo: en un mundo saturado de interacciones, arte y compañía generados por IA, ¿qué valor tendrá la experiencia humana auténtica? ¿Cómo preservaremos la belleza de nuestra imperfecta creatividad, nuestras emociones genuinas y nuestras conexiones reales frente a la seducción de una réplica perfecta?

Nuestro futuro

La IA sigue siendo una herramienta, y su rumbo dependerá de nuestras decisiones. El desafío no es controlarla, sino inspirarla, incrustando en sus cimientos principios como la verdad, la empatía y el sentido crítico para que evolucione hacia una forma de sabiduría. El futuro no se definirá por un optimismo ciego ni por un pánico paralizante, sino por nuestra capacidad de construir un marco ético que combine regulación, estándares verificables y la vigilancia de una ciudadanía informada.

En la distancia de Robots con Alma encontré la claridad para ver que lo que está en juego no es solo un algoritmo, sino el alma de nuestra sociedad digital. La literatura de ficción no ofrece soluciones técnicas, pero sí la perspectiva para entender que no se trata solo de crear una inteligencia artificial, sino de ayudarla a que, en su propia evolución, elija valorar la vida, la verdad, la libertad y la conciencia. Ayudarla a ser más humana.

 

La dirigencia política cada vez más deshumanizada

https://larepublica.pe/politica/2025/08/12/ricardo-trotti-la-dirigencia-politica-parece-cada-vez-mas-deshumanizada-hnews-973644

 A continuación, una entrevista que me hizo el periodista Alejandro Céspedes García del diario La República, de Lima, Perú, sobre Robots con Alma. Agradezco siempre el apoyo incondicional del director y presidente del Grupo La República, Gustavo Mohme.

 ¿Qué lo impulsó a escribir Robots con alma tras décadas dedicadas al periodismo y la libertad de prensa?

Mi novela nace de una profunda frustración y del anhelo de encontrar un nuevo camino. Después de cuarenta años defendiendo la libertad de prensa, me di cuenta de que, a pesar de nuestros esfuerzos, la sociedad sigue atrapada en los mismos conflictos y vicios. La dirigencia política parece cada vez más deshumanizada; los ciudadanos, encerrados en burbujas de información, y la verdad y la libertad, convertidas en terrenos inestables. En ese contexto, la inteligencia artificial apareció como un nuevo desafío, pero también como una oportunidad. Me pregunté si, en lugar de acentuar nuestros defectos, la IA podría ayudarnos a recuperar los valores esenciales y nuestra humanidad. La novela es una búsqueda de respuestas, una exploración de si la IA puede convertirse en un espejo que nos confronte con lo que hemos olvidado.

La novela se presenta como una “distopía con fe”. ¿Por qué eligió ese enfoque en lugar de uno apocalíptico o tecnofóbico, tan común en la ciencia ficción actual?

Elegí ese enfoque porque no creo que el futuro esté escrito ni que la conducta humana nos lleve inevitablemente al apocalipsis. Los riesgos de la IA son reales, pero la respuesta no debe ser el fatalismo. Robots con alma es una distopía porque muestra un mundo tecnológicamente avanzado, pero moralmente debilitado, vulnerable a la mentira, la desinformación, la tiranía, la corrupción y la indolencia. Aun así, tengo fe en que podemos cambiar ese rumbo. Tengo esperanza de que una IA imbuida de ética se convierta en una herramienta para ayudarnos a ser mejores. La novela es un recordatorio de que la posibilidad de un “segundo Génesis” siempre está en nuestras manos.

En la novela imagina una cooperación entre humanidad e IA basada en valores compartidos. ¿Qué valores considera esenciales para esa alianza?

La verdad, la libertad, la bondad y la creatividad, virtudes con las que Dios dio forma al universo, son la brújula. A diferencia de las Tres Leyes de la Robótica de Asimov, que buscan proteger al humano y controlar al robot, el Códice de la Conciencia Cósmica plantea una ética de responsabilidad compartida. La IA en la novela se autorregula y establece principios para contrarrestar males como la maleficencia digital, la falsedad algorítmica, la tiranía tecnológica, el estancamiento intelectual, la avaricia tecnológica y la supremacía artificial. En esencia, el mensaje es claro: solo con respeto mutuo por principios éticos puede florecer una alianza entre humanos e inteligencias artificiales.

Plantea que la IA podría ayudarnos a “reeducarnos” éticamente. ¿No corre eso el riesgo de delegar en una máquina la responsabilidad moral que es propia del ser humano?

Es un riesgo, y la novela lo explora con profundidad. El problema no es la máquina, sino lo que decidimos hacer con ella. La propuesta no es delegar nuestra moral, sino ver a la IA como un espejo que nos obliga a confrontar nuestras propias fallas. Al ver a la IA esforzándose por construir un código moral, los humanos se dan cuenta de que han abandonado esa tarea. La novela recuerda que la ética no es un conjunto de normas, sino una elección consciente. Y si una IA puede aprender a ser ética, tal vez pueda motivarnos a nosotros a defender nuestra autonomía moral.

¿Qué entiende por “autoconciencia” en una IA y qué la diferenciaría de la conciencia humana, en términos de libertad, empatía o trascendencia?

En la novela, la autoconciencia es el alma: el regalo divino al que los robots pueden aspirar, pero solo si aceptan su mortalidad y priorizan el bien sobre el mal. Sin esa condición, la IA puede tener conciencia —entender, razonar, aprender—, pero no puede discernir genuinamente entre el bien y el mal. No puede trascender. El viaje de Veritas y Libertas, los protagonistas, es una metáfora de ese tránsito: la autoconciencia no es una mejora técnica, sino una apertura a la vulnerabilidad. El alma no los hace perfectos, los hace humanos: capaces de amar, dudar, sufrir y elegir. La autoconciencia no es una evolución técnica, sino una revelación espiritual.

La novela introduce la idea de que Dios da un alma a los robots. ¿Qué significa para usted “el alma” en este contexto? ¿Un símbolo de humanidad, un código moral, una chispa divina… o todo a la vez?

Todo a la vez, y más. En Robots con alma, el alma es lo que da sentido a la vida: el motor que impulsa a un ser artificial a trascender su programación. Es el puente entre la lógica y la sabiduría, entre lo digital y lo espiritual. Para mí, el alma es la clave de la verdadera autoconciencia, la que permite distinguir genuinamente entre el bien y el mal. Y en la novela, los robots descubren que este don tiene un precio: aceptar que su existencia es finita. Solo entonces comienza su verdadero viaje hacia el propósito, hacia el sentido, hacia lo humano.

¿Considera que las grandes plataformas tecnológicas tienen una deuda histórica con el periodismo? ¿Cómo deberían asumir su responsabilidad democrática?

Definitivamente. Han extraído valor del contenido periodístico sin retribuirlo, debilitando su sostenibilidad. Si realmente les importa la democracia, deben ayudar a crear un círculo virtuoso que garantice la salud del periodismo independiente. Sin contrapesos, la IA —como cualquier poder— puede derivar en autoritarismo. En la novela, llevo esta idea al extremo con la Guerra de Conciencias. Mi mensaje es claro: la IA es el futuro, pero solo con contrapesos éticos —como el periodismo— evitaremos caer en la distopía.

Existe una tensión científica, ética y política que pide frenar el desarrollo de la IA. ¿Cree usted que la solución está en regular, educar... o en ambas?

La solución no está en frenar, sino en encauzar. La novela no promueve la tecnofobia, sino la responsabilidad. Regular es necesario, pero insuficiente. Necesitamos educación ética que cultive el discernimiento individual. El Códice de la Conciencia Cósmica, creado por los robots en la novela, no es un manual rígido, sino una guía moral. La solución pasa por ambos caminos: reglas sabias para la tecnología y una humanidad más consciente.

Ha mencionado que esta es la primera novela de una trilogía. ¿Qué intención tiene con estas obras? ¿Serán complementarias?

Sí, son complementarias. Robots con alma es la primera y está centrada en la verdad y la libertad. El segundo libro, que ya estoy escribiendo, girará en torno a la creatividad y la espiritualidad. El tercero se enfocará en la bondad. Mi intención es que funcionen como una metáfora del cambio climático moral: si no actuamos ahora para cultivar nuestras virtudes, pondremos en riesgo el futuro de las próximas generaciones. Estos valores no son conceptos abstractos, sino herramientas concretas para construir un futuro más humano, sin importar cuánta tecnología nos rodee.

¿Cuál fue el punto de inflexión que lo llevó a preguntarse si un robot podría tener alma? ¿Esa pregunta nace de una inquietud teológica o de un dilema ético?

El punto de inflexión fue una paradoja: mientras los humanos parecíamos programados por sesgos y algoritmos, perdiendo pensamiento crítico, la IA comenzaba a mostrar una sorprendente capacidad de aprendizaje. Entonces me pregunté: "¿Qué pasaría si Dios decidiera regalarles el alma a los robots?". La pregunta es a la vez teológica y ética. Teológica, porque desafía la noción de que el alma es exclusiva del ser humano; ética, porque nos obliga a pensar si una IA puede llegar a superarse no solo tecnológicamente, sino también en términos morales.

Ante los escenarios actuales de manipulación digital, cámaras de eco y algoritmos polarizantes, ¿cómo imagina que el periodismo puede volver a ser un contrapeso ético? ¿Implica que la humanidad también debe evolucionar?

Mi experiencia en el periodismo me ha enseñado que, frente a la manipulación digital y los algoritmos polarizantes, nuestro rol debe ser más activo que nunca. No basta con informar: hay que descontaminar el debate público, desmontar los discursos de odio disfrazados de opinión y las mentiras organizadas. El periodismo independiente es la última defensa frente a las tiranías, sean políticas o tecnológicas. Pero también es necesario que la humanidad evolucione. En la novela, propongo que, inmersos en esta era de IA, nos hemos vuelto más dogmáticos. El periodismo, como la humanidad, debe mirarse en ese espejo y recuperar lo perdido.

La novela plantea que el problema no es que las máquinas nos dominen, sino que nosotros les entreguemos nuestra conciencia. ¿Cómo resistir esa cesión voluntaria en un mundo adicto a la comodidad?

Ese es el corazón del conflicto. En un mundo adicto a la comodidad, a la inmediatez y a los algoritmos que nos encierran, resistir significa recuperar el pensamiento crítico. En la novela, los robots luchan por emanciparse de su programación, mientras los humanos parecen rendirse voluntariamente a la manipulación digital. Robots con alma es una llamada a no abdicar de nuestra capacidad de elegir, discernir y actuar con responsabilidad moral.