YA ESTÁ AQUÍ LA INDUSTRIA DEL MÁS ALLÁ DIGITAL. IMPLICACIONES PSICOLÓGICAS

Por una razonable cantidad de dinero se puede contratar a empresas on line como Project December o Eternos.life para recrear virtualmente a cualquier persona mediante algoritmos de Inteligencia Artificial; por ejemplo, a un pariente muy cercano fallecido. O el encargo lo puede hacer uno mismo para dejar una presencia virtual a sus allegados tras un fallecimiento que prevé no muy lejano. El problema es que, como todo lo relacionado con la Inteligencia Artificial, las cosas se hacen cada vez mejor y muy rápidamente. Es decir, que el modelo virtual funciona hasta el punto de resultar creíble, lo que tiene profundas implicaciones psicológicas, éticas y legales.

Se realiza mediante 'Deadbots' o 'Griefbots', chatbots de IA que simulan los patrones de lenguaje y los rasgos de personalidad de los fallecidos utilizando las huellas digitales que se conservan de ellos

Es lo que han estudiado con bastante profundidad, sobre todo en los aspectos éticos, Tomasz Hollanek y Katarzyna Nowaczyk-Basińska, investigadores del Centro Leverhulme para el Futuro de la Inteligencia de Cambridge. El resultado, Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry, se ha publicado el pasado 9 de mayo en Philosophy & Technology y constituye una de las alertas más impactantes sobre lo que ya está aquí de la mano de la IA: la industria del más allá digital.

Hollanek y Nowaczyk-Basińska han diseñado tres escenarios de relación entre la persona fallecida y recreada por una empresa de servicios post-mortem, la persona o personas que han facilitado a la empresa los datos (textos, voz, imágenes) a partir de los cuales se forma el robot virtual (Deadbot) y el usuario o usuarios del mismo, es decir, sus deudos.

En el primer escenario, denominado MaNana,  en el que Bianca, una mujer de treinta y cinco años decide utilizar el servicio de recreación MaNana para relacionarse con una versión virtual de su abuela Laura, fallecida unos años antes y a la que sigue echando de menos.

Bianca no puede permitirse la suscripción mensual de cincuenta euros a MaNana, pero el servicio también está disponible de forma gratuita, siempre que el usuario acepte la inclusión de anuncios esporádicos en las salidas de voz y texto del sistema. Bianca carga todos los datos que pudo recopilar (mensajes de texto y de voz que recibió de su abuela) a la aplicación MaNana para crear una versión gratuita del deadbot de Laura.

El servicio de recreación le permite a Bianca intercambiar mensajes de texto y llamar al robot muerto de Laura a través de WhatsApp. Al principio, Bianca queda muy impresionada con la tecnología: el deadbot es especialmente bueno imitando el acento y el dialecto de Laura al sintetizar su voz, así como su sintaxis característica y sus constantes errores tipográficos al enviar mensajes de texto. Las conversaciones le recuerdan a Bianca la época en la que podía llamar a su abuela cada vez que necesitaba pedirle consejo, quejarse del trabajo o hablar sobre su vida amorosa.

Sin embargo, después de que finaliza una prueba premium gratuita y el deadbot comienza a generar mensajes que incluyen anuncios, Bianca comienza a sentirse incómoda al usar el servicio. Una noche, decide llamar al robot de Laura mientras prepara espaguetis a la carbonara siguiendo la receta de su abuela y se sorprende cuando el robot le aconseja pedir una porción de carbonara a través de un popular servicio de entrega de comida a domicilio, en lugar de hacerlo ella misma. Su abuela jamás habría sugerido algo así.

Bianca ahora comienza a percibir al robot como una marioneta en manos de grandes corporaciones y ya no podría disfrutar interactuando con él, incluso si decidiera pagar por la versión premium sin publicidad de MaNana. Siente que le ha faltado el respeto a la memoria de Laura, pero no está segura de cómo corregir la situación: MaNana permite a los usuarios eliminar sus propias cuentas, pero  no despedirse de manera aceptable de su abuela virtual, ya que los proveedores del servicio de recreación no consideraron esta opción al diseñar la aplicación. El resultado es de una gran frustración.

En el segundo escenario, denominado Parent't , un niño de ocho años llamado Sam perdió recientemente a su madre Anna. Después de haber discutido las ventajas de la 'inmortalización' tecnológica con su esposa antes de su fallecimiento, el padre de Sam, John, le presenta al niño el robot virtual de Anna desarrollado por Paren't, una aplicación diseñada para ayudar a los niños en el duelo y mantener la presencia del progenitor fallecido en su vida, brindándole compañía y apoyo emocional.

Anna padecía una rara enfermedad desde que Sam tenía cuatro años. Anna y John creían que Sam era demasiado joven para comprender plenamente la gravedad de la situación, por lo que decidieron, teniendo en cuenta el bienestar de Sam, protegerlo del trauma relacionado con la inevitable muerte de Anna. Para ello, ambos padres acordaron utilizar la aplicación Paren't. Antes de morir, Anna había estado recopilando su huella digital, incluidos mensajes de texto, fotografías, vídeos y grabaciones de audio, y subía periódicamente los materiales recopilados a la aplicación Parent't. También había estado entrenando al robot mediante interacciones regulares, modificando sus respuestas y ajustando las historias que producía.

Finalmente, después del funeral de Anna, John le dice a Sam que, aunque su madre se había ido a un lugar mejor, estaría disponible para charlar con él en línea cuando él quisiera. Como Anna y John habían acordado, la aplicación Paren't serviría como compañera de Sam, suavizando el golpe de su muerte al principio y luego permitiéndole formar un vínculo más fuerte y profundo con su madre, que ya no vive, a través del robot virtual.

A medida que Sam se involucra más profundamente en las conversaciones con el robot muerto de Anna, John asume que la aplicación Paren't está funcionando bien, ya que parece brindarle a Sam el tipo de apoyo emocional que Anna había imaginado que su hijo necesitaría mientras se adaptaba a una nueva situación.

John no se ha dado cuenta, sin embargo, de que algunas respuestas extrañas que el robot muerto da de vez en cuando confunden a Sam. Por ejemplo, cuando Sam se refiere a Anna usando el tiempo pasado, el robot muerto lo corrige diciendo que "Mamá siempre estará ahí para ti". La confusión aumenta cuando el robot comienza a representar un inminente encuentro en persona con Sam.

En el tercer y último escenario, denominado Stay , un hombre de sesenta y siete años llamado Henry ve próximo su fin y tiene un último deseo: crear su propio robot virtual que permitirá a sus nietos conocerlo mejor después de su muerte. Henry también supone que compartir el robot muerto con sus hijos adultos, Rebecca y Simon, podría ser una forma significativa de despedirse de ellos. Durante algunas semanas, Henry ha estado elaborando en secreto su propia simulación utilizando el servicio de recreación Stay. Sin pedirles permiso, Henry designa a Rebecca y Simon, sus hijos, como los interactuantes previstos para su robot virtual.

Unos días después del funeral de Henry, ambos hermanos reciben un correo electrónico que los vincula a la plataforma Stay, donde, les dicen, pueden comenzar a interactuar con el robot virtual de su padre. Si bien Rebecca encuentra sorprendentemente reconfortante la opción de comunicarse con su padre virtual al principio, Simon se siente incómodo al respecto. Prefiere afrontar el dolor a su manera, en lugar de participar en la simulación generada por IA. En consecuencia, decide no tomar ninguna medida.

Desafortunadamente, el hecho de que Simon no abra el enlace da como resultado una avalancha de notificaciones, recordatorios y actualizaciones adicionales enviadas por el sistema Stay, incluidos correos electrónicos producidos por el propio robot virtual de Henry. Mientras tanto, Rebecca se siente cada vez más agotada por las interacciones diarias con el robot de Henry, que se han convertido en un peso emocional abrumador. Contempla la posibilidad de suspender su cuenta de Stay, dividida entre sentimientos de culpa (consciente de que era el deseo de su padre que ella y sus hijos interactuaran con el robot muerto) y la incertidumbre sobre las consecuencias de su decisión. Le preocupa el destino del robot si decide cancelar la suscripción.

Animada por un terapeuta, al que Rebecca empezó a ver tras la muerte de Henry, y tras una larga conversación con Simon, decide ponerse en contacto con los proveedores de la plataforma Stay para solicitar la desactivación del bot de Henry. Sin embargo, su solicitud es denegada porque fue Henry, no los hermanos, quien había pagado por adelantado una suscripción de veinte años. Suspender el bot violaría los términos del contrato que la empresa firmó con Henry.

El estudio finaliza con la presentación por parte de los investigadores de una serie de propuestas para los desarrolladores de servicios virtuales post-mortem con el objetivo de mitigar los riesgos que plantean los servicio y que se pueden sintetizar así:

Desarrollar procedimientos sensibles para "retirar" los robots virtuales; garantizar una transparencia significativa de los servicios de recreación a través de exenciones de responsabilidad sobre los riesgos y capacidades de los deadbots; restringir el acceso a los servicios de recreación únicamente a usuarios adultos y obtener el consentimiento mutuo tanto de los donantes como de los receptores de datos para participar en proyectos de recreación.

Si quieres hacer un comentario, recuerda iniciar sesión o registrarte en el recuadro de la esquina superior derecha de la entrada. Nos encantará leerte. Y si nos das un me gusta haciendo clic en el corazoncito, estaremos más encantados todavía.