UN INGENIERO DE GOOGLE ES DESPEDIDO TRAS ASEGURAR QUE EL CHATBOT EN EL QUE TRABAJA HA DESARROLLADO UNA CONCIENCIA HUMANA

Fue una declaración ética, casi de ciencia ficción, y al mismo tiempo reveló secretos industriales que Google consideraba importantes. Blake Lemoine, un ingeniero de software del equipo de desarrollo de inteligencia artificial (IA) de Google, asegura haber mantenido conversaciones con una IA que es "sensible" y que tiene "sentimiento" en los servidores de la empresa. El ingeniero señala que si no supiera que es una máquina, pensaría que estaba interactuando con un niño "de siete u ocho años que sabe física", según declaró Lemoine al diario Washington Post.

Como empleado de Google, Lemoine se ofreció para probar la herramienta de inteligencia artificial de Google llamada LaMDA (Modelo de lenguaje para aplicaciones de diálogo). LaMDA es una herramienta en la que trabaja Google para mejorar la comprensión del lenguaje natural por parte de las IA. Se trata de entrenar a la máquina para comprender el lenguaje que usan las personas, y se trata de uno de los puntos en los que los algoritmos suelen tener mayores problemas.

En sus charlas con LaMDA, Blake Lemoine, de 41 años, le proponía al ordenador distintas situaciones para poder analizarlo. Entre otros, trató con la máquina temas religiosos y probó si la inteligencia artificial podría llegar a plantear un discurso discriminatorio o de odio.

Tras la experiencia, se dirigió a los directivos de Google para compartir con ellos sus conclusiones y, cuál fue su sorpresa, que no puso hacer nada para plantear sus preocupaciones sobre la capacidad de la Inteligencia Artificial.

La filial de Alphabet suspendió al investigador de su cargo a principios de la semana pasada, alegando que violó la política de confidencialidad de la firma, según declaró el ex empleado de Google en un post titulado "Podría ser despedido pronto por hacer un trabajo de ética de IA".

En la publicación, establece una conexión con miembros anteriores del grupo de ética de la IA de Google, como Margaret Mitchell, que finalmente fueron despedidos por la empresa de manera similar después de plantear preocupaciones.

Desde Google aseguran que su equipo, que incluye éticos y tecnólogos, "ha revisado las preocupaciones de Blake según nuestros principios de IA y le han informado de que las pruebas no apoyan sus afirmaciones".