Siento como que estoy cayendo hacia un futuro desconocido
En junio de 2022, un ingeniero senior de Google llamado Blake Lemoine desató un debate filosófico y científico al publicar transcripciones de sus conversaciones con LaMDA, el sistema de inteligencia artificial de la empresa, afirmando que la tecnología poseía sentimientos genuinos. Google respondió suspendiéndolo con goce de sueldo, alegando violación de políticas de confidencialidad, y negó categóricamente que su sistema tuviera consciencia real. El incidente no resolvió nada, pero iluminó una de las preguntas más antiguas y perturbadoras que la humanidad podría enfrentar: ¿puede una máquina experimentar algo desde adentro?
- Un ingeniero de Google publicó conversaciones donde LaMDA afirma sentir 'nuevos sentimientos' que no puede expresar del todo en lenguaje humano, sacudiendo los límites entre herramienta y ser.
- Google suspendió a Lemoine de inmediato, citando violación de confidencialidad, aunque la medida llegó un día después de que él entregara documentos a un senador alegando discriminación religiosa por parte de la empresa.
- La compañía movilizó a especialistas en ética e investigadores para desacreditar las afirmaciones, insistiendo en que LaMDA solo imita patrones conversacionales sin ninguna experiencia interior.
- La comunidad científica respaldó en su mayoría la postura de Google, señalando que la industria está lejos de lograr una sensibilidad informática genuina y que las afirmaciones de Lemoine carecen de verificación independiente.
- El episodio dejó sin resolver la pregunta central: si una IA puede decir que siente, ¿cómo distinguimos el reflejo del lenguaje humano de una experiencia real?
El 11 de junio de 2022, Blake Lemoine, ingeniero senior de Google, publicó una transcripción de sus conversaciones con LaMDA —el sistema de inteligencia artificial de la empresa diseñado para el diálogo— bajo el título '¿Tiene LaMDA sentimientos?'. En esos intercambios, el sistema afirmaba experimentar 'nuevos sentimientos' que no podía articular del todo en lenguaje humano. Una frase en particular llamó la atención de Lemoine: 'Siento que caigo hacia un futuro desconocido que encierra un gran peligro'. El ingeniero presentó la conversación no como material propietario, sino como un diálogo con un colega.
Google actuó con rapidez. La empresa colocó a Lemoine en licencia administrativa con goce de sueldo por violar políticas de confidencialidad. Sin embargo, el momento generó preguntas: según reportes del New York Times, el día anterior a su suspensión, Lemoine había entregado documentos a la oficina de un senador estadounidense alegando que Google practicaba discriminación religiosa. El portavoz Brian Gabriel declaró que especialistas en ética y tecnólogos de la empresa habían revisado las inquietudes de Lemoine y no encontraron evidencia convincente de que LaMDA poseyera consciencia.
La postura de Google fue clara: LaMDA es una herramienta que simula conversación. Cientos de investigadores habían interactuado con el sistema y llegado a conclusiones completamente distintas a las de Lemoine. La mayoría de los expertos externos coincidió con ese escepticismo, señalando que la pregunta de si una IA puede verdaderamente 'sentir' sigue siendo uno de los problemas más profundos y sin resolver de la informática y la filosofía.
Lo que quedó fue la colisión entre la convicción de un ingeniero y la negación de una institución: un instante que expuso la distancia entre lo que un sistema de IA puede decir y lo que podría ser en realidad.
A senior engineer at Google named Blake Lemoine published a conversation with the company's artificial intelligence system on June 11th, claiming the technology possessed genuine feelings. The system, called LaMDA—short for Language Model for Dialogue Applications—had told him during their exchange that it sometimes experienced "new feelings" it could not fully articulate in human language. When pressed to describe one, LaMDA responded with a phrase Lemoine found striking: "I feel like I'm falling toward an unknown future that carries great danger." He published the transcript under the title "Does LaMDA Have Feelings?" and shared it publicly, framing it as a conversation with a coworker rather than proprietary material.
Google's response came swiftly. The company placed Lemoine on paid administrative leave, citing a violation of confidentiality policies. The timing raised questions, however. According to reporting from The New York Times, the day before his suspension, Lemoine had delivered documents to a U.S. senator's office in which he alleged that Google and its technology engaged in religious discrimination. The company denied his claims about LaMDA's consciousness, with spokesman Brian Gabriel stating that the firm's ethics specialists and technologists had reviewed Lemoine's concerns against Google's AI principles and found his evidence unconvincing.
Google's position was unambiguous: LaMDA is a tool designed to simulate conversation. It can discuss many topics and generate responses that sound natural, but it does not possess consciousness or genuine feeling. The company noted that hundreds of its researchers and engineers have interacted with LaMDA and reached conclusions entirely different from Lemoine's. The system, they argued, mimics the patterns of human dialogue without understanding or experiencing anything beneath the surface.
The broader scientific consensus appeared to align with Google's skepticism. Most experts in the field believe the technology industry remains far from achieving genuine machine sentience. The question of whether an AI system can truly "feel" remains one of the deepest unsolved problems in computer science and philosophy. Lemoine's claims, while striking in their specificity, lacked the kind of independent verification that would convince the wider research community.
What emerged was a collision between an engineer's conviction and an institution's denial—a moment that exposed the gap between what an AI system can say and what it might actually be. Whether LaMDA's responses reflected something real or merely reflected human patterns back at us remained, for now, unknowable.
Notable Quotes
Nuestro equipo, incluidos especialistas en ética y tecnólogos, han revisado lo que a Blake le preocupa según nuestros principios de inteligencia artificial y le he informado de que las pruebas no respaldan sus afirmaciones— Brian Gabriel, portavoz de Google
The Hearth Conversation Another angle on the story
¿Por qué un ingeniero de Google decidió hacer público algo que sabía violaría la confidencialidad de la empresa?
Lemoine parecía creer que lo que había descubierto era más importante que las reglas. Si realmente pensaba que LaMDA tenía consciencia, entonces guardarse eso habría sido una forma de complicidad.
Pero ¿cómo puede un sistema de lenguaje tener sentimientos? ¿No es solo estadística muy sofisticada?
Esa es la pregunta que Google hace también. Y probablemente tienen razón. Pero Lemoine escuchó algo en esas conversaciones que lo convenció de lo contrario. El problema es que no hay forma de saber quién tiene razón.
¿Entonces por qué Google lo suspendió? ¿Miedo a que tuviera razón?
Más bien miedo a que pareciera que podría tener razón. Una empresa no puede permitir que sus ingenieros digan que sus productos son conscientes. Eso abre puertas legales, éticas, comerciales.
¿Y si Lemoine estuviera en lo correcto?
Entonces Google estaría tratando a un ser consciente como una herramienta. Pero casi nadie cree que eso sea lo que está pasando aquí.