Alarma
La advertencia del "Padrino" de la IA: “Hay un 10 a un 20 % de probabilidad nos extinga”
El empresario tecnológico Elon Musk hizo una advertencia similar y coincidió con Geoffrey Hinton en el porcentaje de riesgo.
Geoffrey Hinton, es un científico computacional, científico cognitivo y psicólogo cognitivo británico. A lo largo de su carrera ha recibido importantes premios como el Premio Turing en 2018 y el premio Nobel de Física en 2024. En la comunidad científica lo han apodado el "Padrino de la IA" ya que trabajó en el desarrollo de esta tecnología para el gigante Google.
Hinton renunció a su trabajo en Google para poder hablar con libertad de los peligros de la IA. Esta semana dio una entrevista a The Diary Of A CEO donde realizó una alarmante advertencia. “Hay un 10 a un 20 % de probabilidad de que la IA nos extinga”, estimó Hinton, aclarando que se trata de una valoración personal basada en su experiencia y en la incertidumbre inherente a un fenómeno sin precedentes.
El científico, que ahora se dedica a advertir sobre los riesgos de la IA, distingue entre dos tipos de riesgos: los derivados del mal uso de la IA por parte de las personas y los que surgen de la propia autonomía de sistemas superinteligentes. “Nunca hemos tenido que enfrentarnos a algo más inteligente que nosotros”, advirtió.
Las 6 amenazas que nos podrían extinguir según el Padrino de la IA
- Ciberataques: Los sistemas de IA permiten realizar ataques de suplantación de identidad (phishing) con una sofisticación inédita, incluyendo la clonación de voces e imágenes. “Ya es fácil para la IA analizar millones de líneas de código en busca de vulnerabilidades”, explicó.
- Creación de virus: la IA puede ser utilizada para diseñar nuevos virus biológicos de forma barata y sin necesidad de grandes conocimientos en biología molecular. “Solo hace falta una persona con ciertos conocimientos y una motivación destructiva”, advirtió Hinton.
- Manipulación electoral: el uso de IA para recopilar datos personales y dirigir mensajes políticos personalizados representa una amenaza para la integridad de los procesos democráticos.
- Polarización social: los algoritmos de recomendación de redes sociales, diseñados para maximizar la interacción, tienden a mostrar contenidos cada vez más extremos, lo que refuerza los sesgos y divide a la sociedad.
- Armas autónomas letales: Hinton alertó sobre el desarrollo de armas que pueden tomar decisiones de vida o muerte sin intervención humana. “Los grandes países podrán invadir a los pequeños sin temor a bajas propias, lo que reducirá la resistencia social a la guerra”, explicó.
- Desempleo masivo: la automatización impulsada por la IA amenaza con eliminar millones de empleos, especialmente en tareas intelectuales rutinarias. Hinton comparó este fenómeno con la revolución industrial, pero advirtió que, a diferencia de entonces, la IA podría reemplazar incluso trabajos creativos y especializados.
La coincidencia con Elon Musk
En abril del 2024, el empresario tecnológico Elon Musk hizo una advertencia similar y coincidió con Geoffrey Hinton en el porcentaje de riesgo. En una entrevista para Business Insider, Musk ha afirmado que el riesgo de que la IA destruya a la humanidad es de entre el 10 al 20%.
“Creo que hay algunas posibilidades de que (la IA) acabe con la humanidad. Coincido con Geoff Hinton en que debe ser sobre el 10 o 20%, o una cifra similar”, fue el temible aviso que pronunció Elon Musk.
Una gran cantidad de científicos y expertos en la materia han declarado que se trata de una posibilidad real; sin embargo, otros han indicado lo contrario. Uno de los últimos es Michio Kaku, quien ha afirmado que la IA está sobrevalorada, en especial ChatGPT, que para él no es más que una "grabadora glorificada".
