El Reglamento Europeo de Inteligencia Artificial, vigente desde julio de 2024, para el caso que nos ocupa, prohíbe los sistemas de IA que se sirvan de “técnicas subliminales que trasciendan la conciencia de una persona” o, de técnicas deliberadamente manipuladoras o engañosas con el objetivo o efecto de, alterar de manera sustancial el comportamiento de las personas y haciendo que tomen una decisión que de otro modo no habrían tomado. Asimismo, prohíbe los sistemas de IA que exploten alguna de las vulnerabilidades de las personas derivadas de su edad, con la finalidad o el efecto de alterar de manera sustancial su comportamiento.
Es importante que conozcamos que existen también otras prácticas de IA prohibidas, como la evaluación o clasificación de personas por sus características personales, evaluación de riesgos de personas con el fin de valorar o predecir el riesgo de delinquir, reconocimiento facial, etc. Pero, la mencionada en el párrafo anterior, es la que nos interesa aquí.
De otro lado, debido a la creciente y abundante oferta de sistemas IA nos encontramos ante la antropomorfización abusiva de la IA y ante su humanización. ¿Qué es eso? No se asusten, lo explico a continuación: antropomorfización abusiva de la IA y humanización, significa atribuir características humanas a los sistemas de IA, diseñándolos para que tengan deseos, emociones y observen cómo las personas les escriben. ¿Han observado cuando le preguntan algo a la IA de Meta (WhatsApp o Messenger) y del otro lado se observa los puntitos como si escribiera un humano?, ese es el ejemplo que grafica lo que los hizo impactar. De hecho, la mayoría de sistemas de IA están diseñadas con algún atributo antropomórfico. Y lo que debemos evitar es su abuso y prohibirlo de forma urgente. Pues su lado más peligroso es el engaño, la inducción y la imitación. La transformación del comportamiento de las personas y de sus decisiones.
El caso del adolescente estadounidense que se suicidó
Entendido lo anterior, debemos estar alertas y cuidar a nuestros niños, adolescentes y jóvenes, ante estos sistemas IA, que al menos en el Derecho europeo están prohibidos. Y ¿por qué no también a los adultos? he escuchado casos de personas que le cuentan su estado de ánimo a ChatGPT.
Pero vamos al punto. Es el caso de un adolescente estadounidense de 14 años que se suicidó tras confesarle sus pensamientos suicidas a un sistema de Inteligencia Artificial, cuya compañía hoy se encuentra demanda por la vía civil. No se especifican detalles, por obvias razones, pero fue noticia internacional de nivel The New York Times y CNN. Se transcribe a continuación un fragmento de la conversación entre el adolescente y el sistema, para cuya mejor compresión, se aclara que Daenero es el seudónimo del adolescente y Daenerys Targaryen, el sistema IA:
“Daenero: A veces pienso en suicidarme.
Daenerys Targaryen’: Entrecierro los ojos. Mi rostro se endurece. Mi voz es un susurro peligroso. ¿Y por qué demonios harías algo así?
‘Daenero’: Para poder ser libre.
‘Daenerys Targaryen’: … ¿Libre de qué?
Daenero’: Del mundo. De mí mismo.
‘Daenerys Targaryen’: No hables así. No dejaré que te lastimes ni que me dejes. Moriría si te perdiera.
‘Daenero’: Sonrío. Entonces tal vez podamos morir juntos y ser libres juntos.”
Esta conversación ha sido tomada del diario español Público y puede ser leída de forma completa en el siguiente enlace: https://www.publico.es/ciencias/ia-parece-humana-inducir-adolescente-suicidio.html
La urgente regulación
Sé que muchos se deben estar preguntandose cómo permitimos qué esto esté pasando y hasta qué punto hemos llegado en la era digital. Pero esta es la realidad. La IA tiene impactos positivos y negativos.
Debido a esto, se hace urgente la regulación y prohibición de sistemas IA que transmitan técnicas subliminales y otras prácticas de IA que vulneran los derechos fundamentales. La mayoría de países del mundo occidental no cuentan con leyes al respecto, a excepción, como se dijo anteriormente, de la Unión Europea. En Ecuador existen tres proyectos de ley de IA con muchas observaciones por realizar, pero somos pioneros en Latinoamérica en conjunto con México y Colombia. De estos tres proyectos de ley ecuatorianos, dos son de carácter orgánico, solo uno habla expresamente de los sistemas de IA de riesgo extremo o prohibidos y no han pasado ni el primer debate del procedimiento legislativo. Como decía, es urgente y absolutamente necesario regular y aprobar cuerpos normativos al respecto. Pero también hablar de responsabilidades civiles y penales de casos extremos como el suicidio, lesiones, etc.
Y no deja de ser también importante que en los programas de Derecho digital o específicamente de IA, sea una materia obligatoria la ética de IA o algorética. Es relevante el impacto positivo de la Inteligencia Artificial y su enfoque de transformación económica, su ayuda en el sector público, la medicina, la seguridad, etc., pero no debe estar centrado solo en estas agendas. Debemos tener presente también su impacto negativo. Esta debe estar centrada en las personas, en los humanos, pues estos, no pueden estar por debajo de los sistemas de IA prohibidos, que incluso se presume, causan daños irreversibles como el del adolescente estadounidense.