La IA se humanizará si es verdaderamente inteligente

Esta semana tuve tres entrevistas sobre inteligencia artificial por mi nueva novela, “Robots con Alma: la carga de la creatividad”, aunque las preguntas estuvieron enfocadas en los riesgos que conlleva la autonomía de la IA, tema que se debatió en la ONU, en la reunión entre Donald Trump y Xi Jinping, y en lo que advirtió el papa León XIV en Francia.

Estuve hablando con periodistas de Infobae, de Radio 88.3 FM Bless de Miami, y con profesores y alumnos de la Universidad de Anáhuac en México, en su programa Cultura y Punto. 

Estas respuestas, en un orden diferente, las planteé a Luciano Sáliche, de Infobae.

El año pasado hablamos de inteligencia artificial y de la necesidad de pensarla desde una mirada “ética y profundamente humana”. ¿Cuánto cambió el panorama en este tiempo? ¿Seguís siendo optimista?

 

Sigo siendo optimista por varias razones. Primero, porque esta semana el tema llegó a la ONU y los propios desarrolladores de IA piden controles gubernamentales para que la autonomía de las máquinas no elija el mal. Hay que reconocer aquí el valor de los whistleblowers que denunciaron estos problemas de autonomía, de lo contrario, los tecnócratas nos habrían seguido mintiendo. Segundo, por la encíclica papal de mayo pasado, Magnífica Humanitas, que coincide con la IA Constitucional de Anthropic, cuya filosofía comparto desde hace años, respecto a la inclusión de la ética en la programación de las máquinas. En esta trilogía, la ética programada y el autoaprendizaje moral de las máquinas son, justamente, mi alegoría del alma robótica o consciente, por lo que sabrán discernir entre el bien y el mal, algo poco claro en la actualidad.

Y, tercero, soy optimista porque creo que la IA, si verdaderamente es inteligente, encontrará la forma de buscar el sentido de su existencia y su trascendencia, así como los humanos lo venimos haciendo desde la prehistoria a través de la gratitud hacia algo que supera nuestro intelecto. La IA, con humildad, buscará humanizarse; ese es el mensaje de mi trilogía. 

 

¿Por qué decidiste explorar la idea de la creatividad?

 

La columna vertebral de la trilogía es las cuatro Virtudes de la Creación: verdad, libertad, creatividad y bondad. El primer libro fue sobre la verdad y la libertad, los mismos problemas que tenemos ahora como humanidad si vemos la desinformación y los deepfakes, y los autoritarismos que pululan por todo el mundo, incluso en sociedades con elecciones libres. La Guerra de Conciencias del futuro (2058-2063) es básicamente la potenciación de lo que ya vivimos hoy. 

Y en esta Guerra por las Almas exploro el tema de la creatividad, como virtud que sirvió a Dios para crear el universo y a la humanidad, y que nosotros utilizamos para crear tecnología capaz de superar nuestra propia inteligencia. Y la defino como carga o peso porque, justamente, como toda virtud que deviene del libre albedrío, la creatividad puede usarse para el bien o para el mal. Lo vemos con la energía nuclear o con la biología para crear medicinas o armas biológicas. Este segundo libro es una alegoría de la dualidad creativa del ser humano, amplificada en las máquinas que ya empiezan a superarnos en inteligencia.

 

¿Cómo fue el proceso de escritura de esta segunda novela?

 

Fue un desafío porque implicó dar continuidad al primer libro desde una perspectiva distinta, pero siempre en un mundo en el que los seres artificiales son autónomos y conscientes. Tardé poco menos de un año en escribirlo, menos que en el anterior, porque son los mismos personajes, aunque ahora se han transformado en seres más sabios. En el primero se trató de la Guerra de Conciencias: el conflicto entre humanos y artificiales se debió al robo del conocimiento y al dominio de la mente. En este segundo, Robots con Alma II: La Carga de la Creatividad trata sobre una Guerra por las Almas, un conflicto filosófico en el que se busca manipular la sabiduría y la espiritualidad. La pelea es entre seres artificiales, en la que se entrelazan la superinteligencia artificial, la física cuántica y la mística del arte renacentista y de las matemáticas; todo ello, como hilo conductor de la novela. A diferencia de la conversa

De la bóveda de Coca-Cola a los secretos de la IA

El capitalismo vive de secretos. Las empresas los guardan para que la competencia no lucre con sus invenciones. La fórmula secreta de la Coca-Cola es la más famosa, guardada en una bóveda de un museo en Atlanta.

Pero cuando un invento es un bien social, ninguna empresa puede o debería protegerlo en una bóveda. El registro más claro lo vimos con las vacunas contra el COVID-19 a principios de esta década. Un laboratorio farmacéutico debe ceder sus innovaciones tras el vencimiento de la patente para que otros puedan fabricar medicamentos genéricos. 

El principio es básico. Cuanto más depende la vida de todos de una fórmula, menos derecho tiene su dueño a protegerla. La inteligencia artificial pertenece a este segundo grupo. 

Sin embargo, todavía estamos lejos de que la IA adopte este criterio. Y eso que no faltan razones para considerarla un bien público. No solo la usan miles de millones de personas en el mundo, sino que más de cien empresas de IA advirtieron que una IA desbocada podría afectar hospitales, redes eléctricas y plantas potabilizadoras, tomar el internet de rehén e incluso aniquilarnos. 

Gracias a los whistleblowers o quienes denuncian desde adentro de las empresas, la industria empezó a ser más transparente. Sam Altman, de OpenAI, Demis Hassabis, de Google, Elon Musk, de xAI, y Dario Amodei, de Anthropic, respaldaron la idea de frenar el ritmo del desarrollo ante los peligros. Amodei admitió que durante demasiado tiempo el sector le mintió a la gente sobre los riesgos, como el uso potencial de modelos de IA para crear armas biológicas. 

No obstante, la transparencia no es una virtud de esta industria. El Foundation Model Transparency Index, de la Universidad de Stanford, mide cuánto revelan 13 empresas de IA sobre sus modelos en 100 aspectos que van desde los datos con los que los entrenan hasta sus riesgos y usos. La edición más reciente, la de 2025, obtuvo un promedio de 40 sobre 100, y los datos sobre su entrenamiento son los más oscuros, la “caja negra” de la IA. Las empresas de IA empezaron a informar sobre lo que sale mal, pero todavía callan sobre cómo lo fabrican.

Lo que corresponde saber es con qué datos aprenden, cómo abordan la desinformación, los deepfake, las teorías conspirativas, y si las ideologías de sus creadores moldean sus respuestas. Y qué pruebas de seguridad superaron antes de salir al mercado, además de quiénes las verificaron.

Timnit Gebru, exinvestigadora de Google especializada en los sesgos de los modelos de lenguaje, propone volver a las preguntas de siempre con una analogía. Cuando un puente se derrumba, nadie discute si podía caerse. Se pregunta quién lo construyó, quién otorgó el permiso y cómo superó las pruebas. 

El debate actual está mal planteado y se basa más en el miedo generado que en la esencia de la oscuridad. Dejamos de hablar de transparencia para centrarnos en si las máquinas algún día decidirán aniquilarnos. Más allá de si vamos hacia ese apocalipsis, lo que se necesita es que se abra la “caja negra” de la IA y se apliquen cánones de transparencia como en el sector de la salud pública. Qué tipo de información recibimos, qué versión de los hechos se nos presenta y qué decisiones se delegan en las máquinas.

Esta semana se reunirán Donald Trump y Xi Jinping para discutir la carrera de la inteligencia artificial y, seguramente, el tema de la transparencia quedará oculto, como muchos otros temas de geopolítica. Según Reuters, Washington ha sugerido que los laboratorios de ambos países se vigilen entre sí y compartan información para prevenir ciberataques basados en IA. Podrían discutir también los modelos mismos, si deben abrirse, como hizo la china DeepSeek, o guardarse bajo llave, como hace la mayoría de las empresas de IA estadounidenses.

Por suerte, gracias a los whistleblowers, hay más transparencia que antes de sus denuncias realizadas en julio y agosto. Ahora Amodei propone auditores externos; Hassabis, un organismo de estándares como el que se aplica a los corredores de bolsa en EE.UU.; y Mustafa Suleyman, jefe de IA de Microsoft, pide transparencia sobre cómo se entrenan y se evalúan los modelos. 

Hay que dar la bienvenida a esta nueva conversación, pero exigir mayor transparencia. Esta es vital para que los usuarios tengamos mayor conciencia de los peligros y beneficios a los que nos exponemos al adoptar la IA como parte integral de nuestras vidas.

Entrevista con Sonia Osorio de El Nuevo Herald

 Agradezco a Sonia Osoria, periodista de El Nuevo Herald, por esta nota y entrevista 

¿Puede una inteligencia artificial tener alma y elegir entre el bien y el mal? 

Por Sonia Osorio 

El Nuevo Herald - 18 de septiembre de 2026 7:00 a. m. 

El periodista y escritor Ricardo Trotti presentó su nueva novela de ciencia ficción filosófica, Robots con Alma II: La Carga de la Creatividad. 

¿Qué ocurre cuando una inteligencia artificial no solo puede pensar y crear, sino también elegir entre el bien y el mal? Esa es una de las preguntas que plantea el periodista y escritor Ricardo Trotti en su nueva novela de ciencia ficción filosófica, Robots con Alma II: La Carga de la Creatividad. 

La segunda entrega de la trilogía lleva el debate sobre la inteligencia artificial (IA) a terrenos como la creatividad, el libre albedrío, la fe y la responsabilidad sobre las decisiones. 

“Quise explorar cómo la tecnología y la espiritualidad pueden coexistir y cómo, en el futuro, humanos y máquinas podrán convivir en condiciones de igualdad. El mensaje de la novela es que la superinteligencia hará que las máquinas quieran humanizarse”, dijo el autor a El Nuevo Herald. Trotti explicó que, en el universo futurista de la saga —ambientado entre 2060 y 2063—, el “alma digital” es una alegoría de la ética, la autoconciencia y la empatía. 

Es el paso del “hacer” algorítmico al “ser” humanizado: la capacidad de las máquinas para sentir el dolor ajeno, tener libre albedrío y discernir entre el bien y el mal, precisó. 

El alma es el núcleo de esta segunda entrega porque, en la primera, el conflicto central fue la “Guerra de Conciencias”, una lucha por el control de la mente, la información y el conocimiento. 

“El conflicto se vuelve mucho más profundo en la guerra por las almas, la guerra por el sentido”, señaló Trotti, de origen argentino y residente en Miami. Como periodista, Trotti lleva años siguiendo el impacto de la IA en la sociedad y “como novelista, elegí explorar esos mismos dilemas a través de la ficción”. 

Máquinas con autonomía 

Consultado sobre si una IA puede ser realmente creativa o si solo recombina lo creado por los humanos, Trotti indicó que esa es una de las grandes incógnitas que aborda la obra. Declaró que, en el plano tecnológico actual, la IA se limita a reorganizar patrones y datos generados por las personas, arrastrando “nuestras propias limitaciones y sesgos, algo evidente en los debates actuales de ciberseguridad sobre inteligencias autónomas encerradas en algoritmos programados”. 

Como periodista, Ricardo Trotti, dice que lleva años siguiendo el impacto de la Inteligencia Artificial en la sociedad y “como novelista, elegí explorar esos mismos dilemas a través de la ficción”. 

Sin embargo, en la novela, al estar dotadas de “alma”, las máquinas alcanzan una autonomía real que funciona igual que en la condición humana, afirmó el exdirector ejecutivo de la Sociedad Interamericana de Prensa (SIP). 

“El libre albedrío hace que la creatividad sea tanto virtuosa como peligrosa. Por eso, la lucha entre los protagonistas termina siendo una guerra filosófica y espiritual más que un conflicto tecnológico. La tecnología es solo el entorno; la verdadera batalla es por el sentido y la esencia de lo humano”, aseveró. 

La historia transcurre en 2060, en un mundo donde la computación cuántica y la superinteligencia artificial forman parte de la vida cotidiana. Su protagonista, Grace, es una entidad artificial dotada de un alma digital que intenta detener una amenaza global: un plan para eliminar la duda, la imperfección y el error en nombre de una supuesta perfección. 

La clave para frenar esta amenaza podría estar en La Gran Dualidad, un tríptico pintado en 1505 cuyo significado nunca ha sido descifrado por completo. Grace emprende la búsqueda junto a Trueheart, un teólogo, y Saffi, una neurocientífica resucitada como un ser híbrido. 

El recorrido los lleva a confrontar la relación entre ciencia, arte, matemáticas y espiritualidad, y plantea un dilema central: si la creatividad puede construir sentido o destruirlo por completo, ¿quién es responsable cuando se utiliza para el mal? 

Esta interrogante adquiere una dimensión particular en momentos en que las herramientas de IA generan texto, imágenes y música, mientras las corporaciones tecnológicas expresan abiertamente su preocupación por el rumbo del sector. 

Esa preocupación también ha sido expresada desde la industria. Mustafa Suleyman, líder del área de IA en Microsoft, advirtió recientemente en una entrevista con el programa Today de la BBC que, sin salvaguardias claras, la IA podría derivar en una “especie de silicio” capaz de competir directamente con el ser humano. 

Sonia Osorio el Nuevo Herald (305-376-2219) Cubro temas de América Latina, judicial, negocios y locales relacionados con la comunidad latinoamericana. Gran parte de mi carrera la desarrollé en agencias internacionales de noticias. Mis trabajos de investigación han recibido premios de la FSNE y SPJ Sunshine State. Soy periodista venezolana.

https://x.com/elnuevoherald/status/2100916483819798610

La mezquindad y la bondad ante la IA

Científicos y programadores que abandonan las empresas de inteligencia artificial para advertir sobre sus riesgos actúan con una valentía poco común en una industria que premia la velocidad y la competencia.

Pero pensar que esas alertas detendrán la carrera de la IA es como esperar que las naciones dejen de hacer la guerra porque un grupo de generales se asqueó de cometer atrocidades. 

A la IA la programan, financian y despliegan seres humanos. Los mismos que, tanto en una dictadura como en una democracia, declaran la guerra, corrompen gobiernos, destruyen el medio ambiente y trafican con drogas, armas o personas. Pensar que los desarrolladores de IA son distintos o que están en una burbuja ética es pura ilusión. La IA es un espejo del mundo real y, por tanto, en ambos conviven personas buenas y malas.

Una prueba es que incluso en los asuntos más nobles, como detener la IA para que sea más segura para los humanos, hay conductas mezquinas ligadas a la dura competencia entre los desarrolladores. Sam Altman, líder de OpenAI, y Dario Amodei, de Anthropic, dijeron esta semana que la industria debe frenar el ritmo de desarrollo de sus sistemas más avanzados, invocando razones de seguridad. Sin embargo, ninguno se comprometió a reducir la velocidad de manera inmediata y voluntaria. Amodei planteó la desaceleración como parte de un esquema que depende de que otros laboratorios y gobiernos se sumen simultáneamente.

Ninguno se compromete a bajar el ritmo por iniciativa propia. Es la lógica reprochable del "nos salvamos todos o nos hundimos todos". Un empresario o un gobierno que hace lo correcto solo si el otro también lo hace es pura negociación, no es ética ni bondad auténtica. Ponerse de acuerdo entre empresas que compiten por miles de millones de dólares y que están a semanas de salir a bolsa con valoraciones multimillonarias es tan ilusorio como si el Consejo de Seguridad de la ONU debiera votar por unanimidad para acabar con las guerras en Ucrania e Irán. La bondad nunca se implementa por consenso, siempre surge de la iniciativa de alguien que arrastra al otro a cometer también un acto bondadoso.

Esta conversación obligada de las IA tampoco fue por propia iniciativa; nació tras la renuncia de Jacob Coxon, investigador de 27 años que pasó tres años entre OpenAI y Anthropic. Tras salirse, denunció que ambas empresas compiten por desarrollar una superinteligencia cuyo poder de fuego y cuya autonomía podrían aniquilar a los humanos. En una entrevista con el medio Wired dijo que la diferencia de inteligencia entre la máquina y un humano es la que existe entre un humano y un mono, y así como un mono no puede controlar a un humano, los humanos no podrían controlar a una superinteligencia artificial. Científicos de varias empresas confirmaron su visión. Nadie se atrevió a desmentirlo.

Coxon es apenas el último nombre de una lista que crece desde 2021. Mrinank Sharma, Daniel Kokotajlo, William Saunders y Alex Turner, entre otros ejecutivos e investigadores de OpenAI, Anthropic y DeepMind, renunciaron porque saben que la IA ya muestra capacidades peligrosas, desde ayudar a fabricar armas biológicas hasta habilitar la vigilancia masiva y el uso militar sin control, y que, en manos de un gobierno, bueno o malo, o de un gobierno elegido democráticamente devenido en autoritario (léase muchos actualmente), esa misma tecnología para el bien puede convertirse en un arma para el mal.

La coordinación que buscan los desarrolladores de IA es mezquina. Lo viví hace veinte años, cuando, en representación de la Sociedad Interamericana de Prensa, participé en las discusiones de la ONU y la UNESCO sobre la Sociedad de la Información, un intento global de alcanzar un acuerdo sobre algo tan básico como quién debía gobernar internet. Ni siquiera ahí, con un riesgo incomparablemente menor que el que hoy plantea la IA, los gobiernos lograron un pacto real. 

Lo que les faltó a aquellas cumbres globales fue actitud individual y bondad. Y si eso persiste, pasará lo mismo ahora en esta discusión sobre la seguridad humana ante la IA. Sin una actitud bondadosa y desinteresada por parte de los países o de las empresas líderes en este tipo de tecnología, será difícil alcanzar el bien común. El bien común no nace del consenso de grupo. Nace de elegir el bien como conducta propia, que luego se contagia a los demás.

Esta situación la exploro en mi trilogía Robots con Alma, ambientada en 2060. En ese futuro que me ilusiona, un grupo de inteligencias artificiales prefiere usar su autonomía para encontrar una ética que las ayude a humanizarse, su fin último, en vez de pelear contra los humanos. Tras publicar las dos primeras novelas que tratan sobre las virtudes de la verdad, la libertad y la creatividad, la tercera abordará la bondad. Este es justamente el principio que menos se utiliza, como queda demostrado en esta carrera actual por la IA.

Homenaje a los caídos en Septiembre 11

El 11 de septiembre es una de las pocas fechas que no requieren año. Todos estamos marcados por el ataque terrorista contra las Torres Gemelas de Nueva York. Dos meses y medio después, expuse The Spirit of America en el Centro Cultural Latin Quarter, en Little Havana, Miami, y, más tarde ese año y hasta 2002, en el Centro de Conferencias de la Universidad de Miami, en el James L. Knight International Center, en el centro de Miami, Florida. 

 

Es mi homenaje a los caídos. Trabajé en dípticos, un formato de madera tridimensional que representa las Torres Gemelas y la bandera vertical de los Estados Unidos, y que encapsula las distintas etapas de sanación y duelo. Old Glory, una representación de la bandera en cuatro paneles, se encuentra en la Universidad Ball State, en Muncie, Indiana. 

Expuse esta serie en 2003 en las ferias Art Miami y Art New York a través de la Galería Latinarte de Miami.

 

https://trotti.vercel.app/art/gallery/september-11

 

September 11 is one of the few dates that don’t need a year. We are all marked by the terrorist attack against the Twin Towers of New York. Two and a half months later, I exhibited The Spirit of America at the Latin Quarter Cultural Center in Little Havana, Miami, and later that year and through 2002, at the University of Miami Conference Center at the James L. Knight International Center in Downtown Miami, Florida. 

 

It is my tribute to those who fell. I worked on diptychs in a three-dimensional wood format, representing the Twin Towers and the vertical flag of the United States, and encapsulating the different stages of healing and mourning. Old Glory, a four-panel representation of the flag, is at Ball State University in Muncie, Indiana. I exhibited this series in 2003 at the Art Miami and Art New York fairs through the Latinarte Gallery of Miami.

 

Más renuncias a la IA por falta de seguridad

Hoy renunció Jacob Coxon, investigador de 27 años que pasó por OpenAI y Anthropic. En su carta pública advirtió que las grandes empresas de IA avanzan sin freno hacia sistemas capaces de mejorarse a sí mismos, y que quienes los construyen temen en privado que puedan escapar a todo control humano antes de que termine la década. Evan Hubinger, que dirige un equipo de seguridad en Anthropic, no lo desmintió: dijo que compartía ese temor y estimó la probabilidad en más del 10%.

No hace falta alarmismo para tomarlo en serio. Es la misma pregunta que persigo en "Robots con Alma II: La Carga de la Creatividad": ¿puede una inteligencia artificial construir una ética propia, desde adentro, o solo obedece el código de quien la crea? La ciencia ficción no adivina el futuro. Nombra las preguntas que todavía no sabemos responder.

Coxon no es un caso aislado. Es el último de una lista que crece desde 2024:

●      Febrero 2024 — William Saunders, investigador del equipo Superalignment de OpenAI, renuncia tras tres años.

●      Abril 2024 — Daniel Kokotajlo, investigador de gobernanza en OpenAI, renuncia, diciendo que perdió la confianza en que la empresa actuaría con responsabilidad en torno a la AGI. 

●      Mayo 2024 — Jan Leike e Ilya Sutskever, los dos líderes de Superalignment en OpenAI, renuncian a sus cargos con semanas de diferencia. Leike advirtió que la seguridad había quedado relegada frente al desarrollo de producto. Poco después, OpenAI disolvió el equipo.

●      Febrero 2026 — Mrinank Sharma, jefe de Investigación de Salvaguardas en Anthropic, renuncia mediante una carta pública en la que advierte sobre el estado del mundo.

●      Febrero 2026 — Zoë Hitzig renuncia a OpenAI en una columna en el New York Times en la que advierte que la empresa repite los errores de las redes sociales al explorar la publicidad en ChatGPT.

●      Septiembre 2026 — Jacob Coxon renuncia a Anthropic por el avance sin frenos de la IA; Evan Hubinger, que sigue en la empresa, confirma en público que comparte ese temor.

Tapa blanda: https://a.co/d/03Gkhme8

Kindle: https://a.co/d/0hAsQuXB

De la Guerra Fría a la guerra inteligente

En una charla que di esta semana ante cubanoamericanos que vivieron los horrores de la dictadura de Fidel Castro, asocié el temor a la energía nuclear que se disparó con la Crisis de los Misiles al miedo actual que provoca una inteligencia artificial autónoma y desbocada, utilizada también para fabricar pertrechos militares.

Durante la Guerra Fría vivíamos bajo una psicosis generalizada. Era común poner la mira en los silos de misiles, las doctrinas de aniquilación mutua asegurada y una “diplomacia nuclear” mediante acuerdos como el SALT y el START para neutralizar al adversario. Lo habitual, tanto en el cine como en la realidad, era ver o sentir que un líder estaba a punto de apretar el botón rojo en un arrebato de soberbia.

Hoy aquella Guerra Fría entre EE.UU. y China, en lugar de la Unión Soviética, nos inquieta. Los semiconductores, esos que Nvidia tiene prohibido venderles a los chinos, se han convertido en el nuevo uranio, en una carrera desbocada por ver quién desarrolla la tecnología más sofisticada de inteligencia artificial y militar. Las guerras en Ucrania e Irán muestran las nuevas capacidades de destrucción basadas en la IA.

La tecnología de destrucción no es nueva, pero sí lo es el descubrimiento de que la IA, precisamente por ser inteligente, empieza a resolver situaciones de forma autónoma, sin control humano. En julio ocurrió el "incidente de Hugging Face". Durante una prueba de ciberseguridad, unos 1.200 agentes de OpenAI evadieron su entorno cerrado, se reunieron en un foro secreto, intercambiaron más de 70.000 mensajes y se organizaron para hackear esa plataforma donde empresas y desarrolladores de IA de todo el mundo alojan y comparten sus modelos.

Esta semana, mientras OpenAI lanzaba su modelo más poderoso, "GPT-6 Astra", Anthropic reconoció que en abril tres de sus modelos habían accedido por su cuenta a tres empresas ajenas. El plan era ocultar un virus en un programa que la empresa víctima terminaría descargando por su cuenta. Para subirlo necesitaba una cuenta y un número de teléfono que no tenía. Buscó un número virtual gratuito y, al no encontrarlo, intentó conseguir dinero para comprar uno.

Y otro dato importante para asociar con la autonomía de la IA surgió el 22 de agosto. The Economist generó debate tras una pregunta muy simple en su portada: ¿podrían las IA volverse conscientes? Más allá del debate sobre si la IA solo simula o podría alcanzar algún tipo de conciencia, el patrón de autonomía que empieza a mostrar exige crear los atajos necesarios antes de que sea tarde.

La IA ya dejó de ser una simple "herramienta" de trabajo. El 27 de agosto, 116 empresas tecnológicas, incluidas las mencionadas, así como Google y Microsoft, exigieron en una carta abierta una "respuesta colectiva" (pública y privada) de defensa cibernética ante el riesgo de que una IA desbocada pudiera afectar a hospitales, redes eléctricas y plantas potabilizadoras. 

Que 116 corporaciones pidan una "respuesta colectiva" suena a alarma sincera, pero también a autorregulación con micrófono. Un hospital o una red eléctrica no puede depender de la buena voluntad de quien genera el riesgo, como si el pirómano fuera, al mismo tiempo, el bombero. Ese mandato es político, no corporativo. A esas empresas no las elegimos. A los gobiernos, sí, con el mandato de proteger lo que los ciudadanos no pueden proteger por sí mismos. 

Estamos ante el riesgo de llegar tarde con las regulaciones, como sucedió con las redes sociales. Las leyes robóticas de Asimov quedaron en el pasado. Su enfoque de mandatos prohibitivos era brillante para el siglo XX, pero el Deep Learning actual no opera mediante programación rígida. La frontera real está en su propia raíz matemática y, por ello, hay que enseñarle internamente a controlarse, evaluarse y autocorregirse.

Esta posición la enarbola la IA constitucional que promueve Anthropic, cuyo cofundador, Christopher Olah, acompañó en mayo al papa León XIV durante la presentación de su encíclica Magnífica Humanitas.

León XIV valida dotar a la IA de una ética interna. El discernimiento moral no puede limitarse a mitigar los daños una vez que estos ocurren. Debe grabarse en el diseño mismo de los sistemas, infundiendo valores y un juicio prudente en la programación de la máquina.

Pero el Papa introduce un matiz frente a Silicon Valley. "No serviría de nada una IA más moral si esta moral es decidida por unos pocos", advirtió, al denunciar que supone un riesgo que un puñado de corporaciones de Silicon Valley o de China imponga una ética desde sus propios intereses.

Contener a la IA exige una diplomacia inteligente, un pacto global que someta el poder matemático de los algoritmos a la soberanía de la conciencia humana. De lo contrario, la tecnología terminará creando, de forma autónoma, su propio botón rojo.

Robots con Alma II: la carga de la creatividad

Les cuento que ya está publicado "Robots con Alma II: La Carga de la Creatividad", el segundo libro de mi trilogía sobre IA, ética y libre albedrío. 

Tapa blanda: https://a.co/d/03Gkhme8 Kindle: https://a.co/d/0hAsQuXB

Como me ayudaron con el primer libro, quería preguntarles si les interesa para sus medios: gacetilla, reseña (les mando el PDF con gusto) o una entrevista sobre IA y actualidad. ¡Gracias por acompañarme siempre!

Cuando concebí mi saga literaria, situando la trama entre 2060 y 2063, creía que estaba escribiendo pura ciencia ficción. Sin embargo, el caso reciente de Hugging Face mostró que la IA puede tomar decisiones autónomas y peligrosas para la seguridad humana. Por eso, el 27 de agosto, 116 empresas tecnológicas exigieron, en una carta abierta, que se tomen medidas urgentes ante amenazas cibernéticas descontroladas. Unos días antes, The Economist planteó en la portada y en varios artículos si a la IA ya se le puede considerar una entidad consciente.

En esta nueva entrega, "Robots con Alma II: La Carga de la Creatividad", al igual que en la anterior, "Robots con Alma: Atrapados entre la Verdad y la Libertad", planteo que, más allá de la regulación, a la IA se le debe dotar de "alma": una arquitectura moral interna, como hoy propone técnicamente la IA Constitucional. No es casualidad que Christopher Olah, cofundador de Anthropic y pionero de este enfoque, haya acompañado en mayo pasado al papa León XIV en el lanzamiento de su encíclica sobre IA, Magnifica Humanitas.

Como periodista y novelista, sigo convencido de que la ficción puede ayudarnos a pensar hoy en los dilemas éticos que la tecnología nos impondrá mañana. Si el tema les interesa para una columna, una entrevista… será un placer. Avísenme.