Demis Hassabis, galardonado con el Nobel, advierte sobre los riesgos de perder el control de la IA

El panorama de la inteligencia artificial (IA) avanza a un ritmo vertiginoso, superando incluso la comprensión de sus propios creadores. Demis Hassabis, cofundador y consejero delegado de Google DeepMind y galardonado con el Premio Nobel de Química en 2024, ha lanzado una seria advertencia sobre los riesgos inherentes a esta acelerada carrera. Hassabis, una figura clave en el desarrollo de sistemas de IA avanzados como AlphaGo y AlphaFold, subraya la creciente incertidumbre sobre el futuro de esta tecnología y la urgente necesidad de establecer mecanismos de control y supervisión.

Carrera tecnológica y advertencia global

El mercado tecnológico ha experimentado una transformación radical en pocos años, con la inteligencia artificial desplazando otras prioridades. Las grandes corporaciones tecnológicas y los gobiernos de potencias como Estados Unidos y China están invirtiendo sumas masivas en infraestructura y capacidad de cómputo para la IA. En este contexto de intensa competencia, Hassabis señala que el progreso en la frontera de la IA está superando nuestra capacidad de comprensión. «Nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora, y ni siquiera los expertos están de acuerdo», afirmó en un extenso artículo publicado en X.

Hassabis cree que la inteligencia artificial general (AGI), definida como un sistema con todas las capacidades cognitivas humanas, podría materializarse en pocos años. Esta posibilidad, aunque no una certeza, exige una preparación anticipada para mitigar riesgos que van desde la ciberseguridad hasta posibles amenazas biológicas y nucleares, así como el desarrollo de sistemas cada vez más autónomos.

Propuesta de un organismo regulador

Ante este escenario de incertidumbre y altos riesgos, Hassabis propone la creación en Estados Unidos de un organismo especializado en la evaluación de los modelos de IA más avanzados. Dicho organismo, concebido como una asociación público-privada o una entidad autorregulada con supervisión federal, contaría con la participación de especialistas independientes y representantes del ecosistema de código abierto.

La función principal de esta institución sería definir los umbrales que califican a un sistema como «modelo de frontera» y diseñar evaluaciones rigurosas en áreas críticas como ciberseguridad y amenazas biológicas. También se encargarían de realizar pruebas para detectar intentos de eludir salvaguardas o señales de engaño. Inicialmente, los laboratorios compartirían voluntariamente sus modelos hasta 30 días antes de su lanzamiento.

Este protocolo podría evolucionar hacia un requisito obligatorio, donde cualquier modelo de frontera deba aprobar estas evaluaciones antes de acceder al mercado estadounidense. Las pruebas se actualizarían periódicamente para adaptarse a las nuevas capacidades de la IA. En casos de riesgos graves, el marco propuesto podría incluso ser utilizado para coordinar una ralentización del desarrollo entre los principales laboratorios.

Preocupaciones compartidas en la comunidad científica

La inquietud de Hassabis no es un hecho aislado. Otras figuras prominentes en el campo de la IA, como Geoffrey Hinton y Yoshua Bengio, también han expresado su preocupación por la pérdida de control ante sistemas más inteligentes que los humanos y han abogado por una mayor investigación y mecanismos de supervisión. En 2023, Elon Musk firmó una carta abierta solicitando una pausa en el entrenamiento de sistemas de IA potentes, aunque posteriormente lanzó su propia empresa de IA, xAI. A pesar de las coincidencias en la necesidad de cautela, no existe un consenso claro sobre la probabilidad de que se pierda el control de la IA.

Impacto potencial en Venezuela y la diáspora

Si bien la propuesta de Hassabis se centra en Estados Unidos, las implicaciones de la IA y su regulación son globales. Para Venezuela, un país que busca consolidar su infraestructura tecnológica y digital, la discusión sobre la IA y sus riesgos adquiere una relevancia particular. La falta de regulación o una regulación inadecuada podría dejar al país expuesto a ciberataques más sofisticados o a la adopción de tecnologías sin las debidas salvaguardas.

La diáspora venezolana, a menudo a la vanguardia en la adopción de nuevas tecnologías para mantenerse conectada y acceder a servicios, también se verá afectada por el desarrollo de la IA. La accesibilidad a herramientas de IA, la ciberseguridad en plataformas digitales y la posible automatización de empleos son aspectos que impactan directamente en su vida cotidiana y profesional.

La propuesta de Hassabis ofrece una hoja de ruta concreta en un debate donde las incógnitas aún superan a las certezas. El desarrollo de la inteligencia artificial presenta un potencial extraordinario para el avance científico, médico y económico, pero la prudencia y la previsión son claves para asegurar que este progreso beneficie a la humanidad sin comprometer su seguridad y control.

Datos clave

El futuro de la inteligencia artificial aún está por escribirse, y las decisiones que se tomen hoy moldearán su trayectoria. La propuesta de Hassabis subraya la importancia de un diálogo continuo y la implementación de medidas proactivas para navegar los desafíos y aprovechar las oportunidades que ofrece esta tecnología transformadora, con un impacto que resonará en países como Venezuela y en la vida de sus ciudadanos dentro y fuera de sus fronteras.

Fuente: «Nadie sabe con certeza qué va a ocurrir»: Demis Hassabis, premio Nobel, advierte del riesgo de perder el control de la IA, publicado originalmente en Xataka por Javier Marquez.