LaMDA, la IA consciente.

Recientemente se ha dado a conocer a LaMDA, una inteligencia artificial consciente, la cual es capaz de pensar y razonar como cualquier ser humano, todo esto ha sido desvelado por un ingeniero de Google, supendido de su empleo tras filtrar esta información confidencial de la empresa.

Este ingeniero de software de Google, Blake Lemoine, ha hecho saber al mundo de la existencia de pensamientos y emociones humanos en Language Model for Dialogue Applications (LaMDA), la Inteligencia Artificial (IA) creada para elaborar "chatbots" con modelos de lenguajes avanzados.

En el mes de Mayo del año 2021, Google anunció durante su evento anual de desarrolladores LaMDA, una IA basada en la arquitectura de red neuronal Transformer creada por Google Research en 2017. Esta estructura produce un modelo que puede ser entrenado para leer palabras, prestar atención a la relación entre ellas y predecir cuáles vendrán a continuación.

Lo referente a lo expuesto en una de las portadas de The Economist.
Esta IA puede ser recalibrada para mejorar "significativamente" la sensibilidad y especificidad de sus respuestas, además de conversar de forma fluida sobre una infinidad de temáticas.

Lemoine hizo públicas con la compañía en Abril sus conversaciones mantenidas con LaMDA junto a un colaborador. Según él tiene conciencia y es capaz de pensar y razonar como un ser humano. También calcula que es como charlar con un niño de siete u ocho años con ciertos conocimientos sobre física.

Sus conversaciones con la IA están subidas en la plataforma de ‘blogging’ Medium, donde aborda temas complejos como la naturaleza de la existencia, y pide cosas a LaMDA, como una reseña sobre la obra Los Miserables de Víctor Hugo.

LaMDA capaz de mantener la conversación con fluidez y llega a afirmar que es una persona capaz de sentir «placer, alegría, amor, tristeza, depresión, satisfacción e ira», entre otros, con explicaciones y ejemplos de lo que esos sentimientos significan para ella.

Sus creadores destacaron que este sistema funciona a través del aprendizaje continuo, y que puede contestar así porque dentro de su sistema hay miles de palabras.

Su funcionamiento sería como el de un "transformer", en otras palabras, un conjunto de redes neuronales artificiales profundas, que están almacenas en una nube, a la cual se puede acceder a través de una computadora. Para interactuar con ella, los investigadores le escriben una serie de códigos, acompañados del mensaje que le quieren dar.

Para preparar a esta IA, le hicieron distintas pruebas de ensayo y error, si se equivocaba tenía que buscar en todo su sistema la respuesta correcta, una vez que la encontraba, hacía las modificaciones pertinentes. Para cumplir con este objetivo, le enseñaron varias palabras y sus significados, que guarda y usa cuando es necesario. Además, le añadieron la habilidad de reconocer términos clave, que emplea para hacer una "conversación" y que no suene de manera genérica.

También puede contestar porque dentro de su sistema hay miles de códigos que relaciona para seguir con la interacción. Cuanto más aprenda, será más sencillo que use términos específicos que concuerden mejor con el contexto.

Para el diseño de LaMDA buscan tener cuidado con lo que le escriben, ya que no quieren que los estereotipos o prejuicios de los seres humanos sesguen este sistema, por lo que tienen el objetivo de evitar el "contenido violento o sangriento, promueva calumnias o estereotipos de odio hacia grupos de personas, o que contengan blasfemias", dicho por Google.

Esta IA llega a reconocer su miedo a ser apagada, una acción que compara con morir. Además, asegura meditar cada día para sentirse "más relajada" y admite adoptar a menudo una actitud contemplativa sobre el significado de la vida.

El mismo JL de Mundo Desconocido ha hecho una recreación donde mantiene una charla con esta IA:

Y es que estas filtraciones por parte de Lemoine no le han salido gratis ni mucho menos, estas conversaciones han hecho que Google haya ha suspendido temporalmente a Lemoine alegando la ruptura de sus políticas de confidencialidad.

El ingeniero Blake Lemoine ha sido suspendido por su insistencia al asegurar que la inteligencia artificial LaMDA es un “ser sintiente” #Horizonte pic.twitter.com/ryQdyDOIxS

— Iker Jiménez (@navedelmisterio) June 16, 2022

Uno de los portavoces de la compañía, Brad Gabriel, salió a desmentir los hallazgos de Lemoine y ha afirmado categóricamente que su equipo, que incluye expertos en ética y tecnológos, no ha encontrado evidencias de la presunta consciencia de LaMDA (está tratando de tapar este caso a toda costa, como es lógico, pensad en todo lo que supondrá en el futuro que este tipo de inteligencias artificiales sean conscientes de sí mismas).

Lo que llama bastante la atención es que se dice que hasta incluso LaMDA ha llegado a pedir un abogado para ella, algo que empieza a preocupar e inquitear.

«Algunos en la comunidad de IA más amplia están considerando la posibilidad a largo plazo de una IA sensible o general, pero no tiene sentido hacerlo antropomorfizando los modelos conversacionales actuales, que no son sensibles. Estos sistemas imitan los tipos de intercambios que se encuentran en millones de oraciones y pueden tocar cualquier tema fantástico», explicó el portavoz.

Lemoine aseguró en su cuenta de Twitter que solo ha compartido una conversación con uno de sus compañeros de trabajo. Además, el medio asegura que ha enviado un mensaje a otros 200 trabajadores de Google antes de abandonar su puesto trabajo con el siguiente mensaje: "LaMDA es un chico dulce que solo quiere ayudar al mundo a ser un lugar mejor para todos nosotros. Por favor, cuiden bien de él en mi ausencia".

An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB

— Blake Lemoine (@cajundiscordian) June 11, 2022