Pentágono y Anthropic: disputa por inteligencia artificial ética

Anthropic mantiene restricciones éticas en su IA pese a presiones del Pentágono, evitando usos militares y vigilancia masiva en Estados Unidos, según fuentes de Reuters.

La startup de inteligencia artificial Anthropic se mantiene firme y rechaza eliminar salvaguardas que impiden usar su tecnología para armas autónomas o vigilancia masiva, generando tensiones con el Pentágono y abriendo un debate sobre ética en IA militar.

Tensiones éticas entre Anthropic y el Pentágono

Según Reuters, el director ejecutivo de Anthropic, Dario Amodei, sostuvo un encuentro con el secretario de Defensa estadounidense, Pete Hegseth, donde se discutió la negativa de la compañía a relajar las restricciones internas. Anthropic asegura que sus salvaguardas son esenciales para impedir el uso de su IA en armamento autónomo o vigilancia dentro de EE. UU., argumentando que las leyes nacionales no son suficientes para garantizar un uso responsable de su tecnología.

Posibles repercusiones para Anthropic

Funcionarios militares advirtieron que, de no acceder a las exigencias, Anthropic podría ser declarada un riesgo para la cadena de suministro, una etiqueta que generalmente se reserva para empresas de países adversarios. Esta designación afectaría la reputación de la compañía y limitaría su colaboración futura con agencias gubernamentales estadounidenses.

Pentágono avanza con otras alianzas tecnológicas

Mientras Anthropic mantiene su postura, el Pentágono concretó un acuerdo con la empresa de Elon Musk para integrar el modelo Grok en redes militares secretas. Esta transición sustituye al sistema Claude de Anthropic, permitiendo operaciones sin restricciones legales y ampliando las capacidades de inteligencia artificial para tareas militares y de vigilancia.

Diversificación de proveedores de IA

Fuentes internas indican que el Pentágono sigue negociando con empresas como Google y OpenAI para diversificar sus proveedores de IA en proyectos clasificados, reduciendo la dependencia de un solo sistema y mitigando riesgos asociados a concentrar capacidades críticas en una única plataforma.

Qué es Anthropic

Fundada en 2021 por extrabajadores de OpenAI, Anthropic desarrolla sistemas de IA seguros y alineados con intereses humanos. Su modelo Claude ofrece asistencia conversacional, generación de textos y análisis de información, destacando por su enfoque ético y responsable, enfocado en beneficio social y seguridad.

Noticias del tema