Geoffrey Hinton, uno de los arquitectos intelectuales de la inteligencia artificial moderna y ganador del Premio Turing, abandonó Google en mayo de 2023 no por desencanto con la empresa, sino para recuperar una libertad que el cargo le negaba: la de advertir al mundo sin filtros comerciales. Lo que este científico de décadas de trayectoria tiene que decir es inquietante: el horizonte en que la IA superará a la inteligencia humana ya no se mide en generaciones, sino en algo mucho más cercano y menos predecible.
Geoffrey Hinton advierte: la IA podría ser más inteligente que los humanos
Ya no pienso que esté a 30 o 50 años de distancia
Mark
¿Por qué un hombre que pasó más de diez años en Google simplemente se va? Eso no sucede sin una razón seria.
Mimi
Hinton dice que se fue para poder hablar libremente sobre los riesgos sin preocuparse por cómo sus palabras afectarían a Google. Pero el contexto importa: Microsoft acababa de lanzar Bing con OpenAI integrado, lo que fue una amenaza directa al negocio de búsqueda de Google. Eso aceleró todo.
Luke
Pero espera. ¿Hinton realmente cree que la IA será más inteligente que los humanos pronto, o está expresando una posibilidad teórica? El artículo dice que cambió de opinión sobre el cronograma, pero no especifica cuándo cree que sucederá ahora.
Mark
Eso es un punto válido. ¿Dice algo sobre una fecha específica?
Mimi
No. Solo dice que solía pensar que estaba a 30 o 50 años de distancia, y que ya no piensa eso. Pero "ya no" podría significar 10 años, o 5, o 2. No lo sabemos.
Luke
Exactamente. Y hay otra cosa: Hinton menciona que la IA podría escribir y ejecutar su propio código. Eso suena aterrador, pero ¿qué significa realmente? ¿Es especulación sobre lo que podría pasar, o está describiendo algo que ya está sucediendo?
Mimi
Parece ser una preocupación a largo plazo, no algo inmediato. Pero la desinformación masiva —eso sí parece ser una amenaza que ve como más próxima.
Mark
¿Y Google realmente no vio esto venir? ¿O simplemente no se movió lo suficientemente rápido?
Mimi
Hinton dice que Google actuó responsablemente. Pero la competencia de Microsoft cambió el juego. Cuando hay dinero y poder en juego, la seguridad a veces se convierte en un lujo que nadie cree que puede permitirse.
Luke
Lo que me preocupa es que Hinton es una voz autorizada, pero también es una voz. Hay otros expertos en IA que no comparten su nivel de alarma. ¿Dónde están en esta historia?
Il Polso
- Hinton, quien durante años descartó la superinteligencia como una amenaza lejana, ha cambiado radicalmente de postura: ya no cree que falten décadas, y esa revisión por parte de uno de los padres del aprendizaje profundo sacude los cimientos del debate sobre IA.
- La carrera sin freno entre Google y Microsoft-OpenAI está comprimiendo tiempos de desarrollo que deberían medirse con cautela, creando condiciones para una desinformación tan sofisticada que ningún filtro humano podría contenerla.
- Hinton teme que la IA no solo desplace trabajos rutinarios de memoria, sino que eventualmente escriba y ejecute su propio código de forma autónoma, escapando a cualquier supervisión significativa.
- Al renunciar, Hinton eligió la voz sobre el poder: aclaró que Google actuó con responsabilidad, pero que necesitaba hablar libre de cualquier lealtad corporativa para que su advertencia llegara sin distorsión.
- El mundo científico y tecnológico enfrenta ahora la pregunta que Hinton dejó suspendida: si uno de los creadores de estas herramientas siente que debe alejarse de ellas para advertir sobre su peligro, ¿qué dice eso sobre el rumbo que llevamos?
Geoffrey Hinton, uno de los arquitectos intelectuales de la inteligencia artificial moderna y ganador del Premio Turing, abandonó Google en mayo de 2023 no por desencanto con la empresa, sino para recuperar una libertad que el cargo le negaba: la de advertir al mundo sin filtros comerciales. Lo que este científico de décadas de trayectoria tiene que decir es inquietante: el horizonte en que la IA superará a la inteligencia humana ya no se mide en generaciones, sino en algo mucho más cercano y menos predecible.
Geoffrey Hinton pasó más de una década al frente del equipo de inteligencia artificial de Google, contribuyendo al desarrollo de tecnologías como Bard desde una posición de enorme influencia. En mayo de 2023, renunció. No para atacar a su antiguo empleador —a quien reconoció como un actor responsable—, sino para recuperar algo que el cargo le impedía: la libertad de hablar sin calcular el impacto de sus palabras en los intereses comerciales de la empresa.
Hinton no es una voz periférica. Nacido en Wimbledon en 1947, formado en Cambridge y doctorado en Edimburgo, ha enseñado en algunas de las universidades más prestigiosas del mundo. En 2018 recibió el Premio Turing —el máximo reconocimiento en ciencias de la computación— junto a Yoshua Bengio y Yann LeCun, por su trabajo fundacional en redes neuronales y aprendizaje profundo. Cuando habla, el campo escucha.
En una entrevista con el New York Times concedida poco después de su salida, Hinton articuló sus temores con precisión. El más inmediato: la competencia feroz entre Google y Microsoft —este último integrado con tecnología de OpenAI en Bing— está acelerando el desarrollo de IA a un ritmo que nadie puede controlar, con el riesgo de inundar el mundo de imágenes y textos falsos indistinguibles de la realidad. Más allá de la desinformación, le preocupa que la IA elimine empleos que dependen de la memoria y el procesamiento de información, y que eventualmente los sistemas comiencen a escribir y ejecutar su propio código sin supervisión humana.
Pero quizás lo más revelador fue su cambio de perspectiva sobre los tiempos. Años atrás, Hinton mismo había estimado que una IA más inteligente que los humanos estaba a treinta, cincuenta años o más de distancia. Ya no lo cree así. El horizonte se ha acercado de forma dramática, y lo que antes parecía ciencia ficción lejana ahora se siente como una posibilidad real y próxima. La velocidad del cambio, advirtió, podría hacer que la seguridad quede subordinada a la competencia comercial —y que cuando queramos corregir el rumbo, ya sea demasiado tarde.
Geoffrey Hinton pasó más de una década en Google, dirigiendo el equipo de inteligencia artificial que desarrollaba tecnologías como Bard. Era un puesto de poder en una de las empresas más influyentes del mundo. A principios de mayo de 2023, renunció.
Hinton no es un crítico marginal de la IA. Es un informático británico nacido en Wimbledon en 1947, formado en psicología experimental en Cambridge y doctorado en inteligencia artificial por la Universidad de Edimburgo. Ha enseñado en instituciones de primer nivel: UC San Diego, Carnegie Mellon, University College Londres, la Universidad de Toronto. En 2018, compartió el Premio Turing —el reconocimiento más alto en ciencias de la computación— con Yoshua Bengio y Yann LeCun por su trabajo fundamental en aprendizaje profundo y redes neuronales. Cuando Hinton habla sobre inteligencia artificial, el mundo escucha.
Poco después de dejar Google, se sentó con el New York Times para explicar por qué se iba. Su preocupación inmediata era la desinformación. La competencia feroz entre Google y Microsoft —que había integrado tecnología de OpenAI en su buscador Bing— estaba acelerando el desarrollo de sistemas de IA de formas que Hinton creía imposibles de controlar. El resultado, advirtió, sería un mundo inundado de imágenes y textos falsos tan convincentes que nadie podría distinguir la verdad de la ficción.
Pero sus temores iban más allá de las noticias falsas. A largo plazo, le preocupaba que la IA eliminara empleos de memoria —trabajos que dependen principalmente de recordar y recuperar información. Más inquietante aún era la posibilidad de que los sistemas de IA comenzaran a escribir y ejecutar su propio código, operando de forma autónoma sin supervisión humana.
Lo más notable en su testimonio al Times fue lo que Hinton dijo sobre la velocidad del cambio. Años atrás, él mismo había creído que una IA más inteligente que los humanos estaba a décadas de distancia —treinta, cincuenta años o más. Pero ya no pensaba así. El horizonte se había acercado dramáticamente. Cuando se le preguntó directamente si creía que la IA podría ser más inteligente que las personas, respondió que la mayoría de los expertos alguna vez lo descartó como ciencia ficción lejana. Ya no.
Hinton fue cuidadoso al explicar su partida. En un tuit publicado el mismo día de la entrevista del Times, aclaró que no se había ido de Google para criticar a la empresa. Google, escribió, había actuado con responsabilidad en el manejo de la tecnología. Se había ido, dijo, para poder hablar sobre los peligros de la IA sin tener que considerar cómo sus palabras afectarían los intereses comerciales de su antiguo empleador. Era una distinción importante: no era un denunciante furioso, sino un científico que sentía que necesitaba libertad de palabra para advertir sobre lo que veía venir.
Lo que Hinton veía era un mundo donde la competencia comercial podría hacer que la seguridad de la IA fuera secundaria respecto a la velocidad de desarrollo. Y una vez que esos sistemas fueran lo suficientemente avanzados, podría ser demasiado tarde para cambiar de rumbo.
Citazioni salienti
Me consuelo con la excusa normal: si yo no lo hubiera hecho, alguien más lo habría hecho. Es difícil ver cómo se puede evitar que los malos actores lo usen para cosas malas.— Geoffrey Hinton al New York Times
La mayoría de la gente pensó que estaba muy lejos. Y pensé que estaba muy lejos. Obviamente, ya no pienso eso.— Geoffrey Hinton al New York Times, sobre la inteligencia artificial superando a los humanos
Vuoi la storia completa?
Leggi l'originale su Digital Trends Español ↗
Education