El especialista en seguridad de IA Mrinank Sharma anunció su salida de Anthropic con una carta pública que encendió alarmas dentro y fuera del sector tecnológico. En el mensaje, el investigador afirmó sin rodeos que “el mundo está en peligro”, y planteó que las amenazas actuales exceden a la inteligencia artificial, abarcando también crisis globales interconectadas.
La empresa confirmó su partida y aclaró que Sharma no estaba al frente de todo el esquema de “salvaguardas”, aunque sí integraba ese equipo clave. Sin embargo, en presentaciones previas de 2025 la propia compañía lo había señalado como líder de investigaciones orientadas a mitigar riesgos tras el despliegue de sus modelos.
Advertencia más allá de la IA
En su carta, Sharma sostuvo que la humanidad se aproxima a un punto crítico: “Nuestra sabiduría debe crecer al mismo ritmo que nuestra capacidad de afectar al mundo, o afrontaremos las consecuencias”. La reflexión apunta no solo al desarrollo acelerado de la IA, sino también a amenazas como las armas biológicas y otros riesgos sistémicos.
El exinvestigador también dejó entrever tensiones habituales en los grandes laboratorios tecnológicos: la dificultad de sostener principios éticos cuando la competencia y la presión por lanzar productos se intensifican. “He visto repetidamente lo difícil que es dejar que nuestros valores gobiernen nuestras acciones”, escribió, en una frase que muchos interpretaron como crítica implícita al rumbo de la industria.
El rol de “Salvaguardas”
Dentro de Anthropic, el área de “Safeguards” se dedica a reforzar la seguridad de los modelos una vez desplegados. Entre sus líneas de trabajo figuran la resistencia a intentos de “jailbreak” —ataques para saltar límites de seguridad— y sistemas de monitoreo para detectar usos indebidos. Parte de las investigaciones vinculadas a Sharma estaban enfocadas en impedir que la IA pudiera colaborar en la creación o mejora de armas biológicas.
Una salida sin acusaciones directas
Aunque su carta evitó detallar episodios concretos o desacuerdos internos, sí transmitió una sensación de desajuste entre la velocidad del avance tecnológico y la capacidad institucional de actuar con coherencia ética. Tras incorporarse a la empresa en 2023, Sharma ahora evalúa una nueva etapa personal y profesional, con intereses que van desde estudios de poesía hasta iniciativas comunitarias.
Por el momento, su despedida funciona más como una advertencia general sobre el rumbo de la tecnología y sus riesgos que como una denuncia específica. Pero en un contexto de carrera global por dominar la inteligencia artificial, sus palabras reavivan el debate sobre si la regulación y la ética están avanzando al mismo ritmo que la innovación.
Fuente: AS/Redacción TE.
