Sam Altman de OpenAI toma medidas tras incidente en escuela

Está la posibilidad de alertar a la policía cuando se detecte un uso potencialmente peligroso del sistema

El gobierno de Canadá informó que el director ejecutivo de OpenAI, Sam Altman, aceptó reforzar de inmediato los protocolos de seguridad de la empresa tras un tiroteo ocurrido en una escuela secundaria. Según un reporte del The Wall Street Journal, la decisión surge después de que la plataforma detectara actividad sospechosa del presunto agresor en ChatGPT, suspendiera su cuenta, pero no notificara a las autoridades.

Las nuevas medidas buscarían fortalecer la cooperación con las fuerzas del orden. Entre los cambios propuestos está la posibilidad de alertar a la policía cuando se detecte un uso potencialmente peligroso del sistema. El ministro de Inteligencia Artificial de Canadá, Evan Solomon, explicó que solicitó a Altman varias acciones para mejorar la supervisión de casos de alto riesgo.

Durante una reunión virtual, ambas partes discutieron la incorporación de expertos canadienses en privacidad, salud mental y seguridad pública para analizar situaciones que puedan representar amenazas entre los usuarios del país. OpenAI también se comprometió a elaborar un informe que detalle los nuevos protocolos de seguridad.

Además, el gobierno canadiense pidió revisar de manera retroactiva incidentes sospechosos ocurridos en la plataforma y compartir información con las autoridades cuando sea necesario, aunque no está confirmado si la empresa aceptó completamente esta solicitud.

Previamente, OpenAI ya había considerado mejorar sus sistemas de detección para evitar que usuarios bloqueados puedan crear nuevas cuentas, algo que ocurrió en este caso después de que el sospechoso fuera suspendido por advertencias relacionadas con posible violencia real.

Noticias del tema