Inteligencia artificial
OpenAI endurece las protecciones de ChatGPT frente a violencia y contenidos sobre armas
OpenAI anunció una ampliación de las medidas de seguridad de ChatGPT frente a situaciones relacionadas con violencia. Según la empresa, los cambios incluyen respuestas más restrictivas cuando una conversación muestra señales recientes de posible riesgo, límites adicionales sobre información detallada de ataques masivos pasados y mayores restricciones para menores de 18 años en temas vinculados con armas y sistemas de seguridad.
La compañía afirma que, cuando detecte una fijación con la violencia o con causar daño grave a otra persona, ChatGPT podrá finalizar automáticamente una conversación. Si esa situación se repite, la cuenta podría ser suspendida temporalmente. OpenAI aclara que estos mecanismos siguen en desarrollo y que todavía trabaja con especialistas para mejorar la identificación de señales y decidir cuándo intervenir.
Para adolescentes, la empresa dice que ampliará las restricciones incluso cuando una consulta sobre armas parezca inocua. También continuará utilizando sistemas de estimación de edad y controles parentales. Según OpenAI, las personas clasificadas erróneamente como menores podrán verificar que son adultas mediante su proveedor de verificación de edad.
La empresa informó además que realizó más de 200 derivaciones a fuerzas de seguridad durante el tercer trimestre de 2026 ante amenazas que consideró relevantes. Esa cifra proviene de OpenAI y no permite, por sí sola, evaluar desde esta fuente la precisión general de sus sistemas ni cuántas intervenciones evitaron daños.
Como parte de una política de mayor transparencia, OpenAI se comprometió a publicar a comienzos de 2027 un informe sobre prevención de violencia y seguridad comunitaria, con datos, ejemplos anonimizados, cambios de política y evaluación de sus protecciones. Después prevé actualizarlo cada seis meses. Las nuevas salvaguardas comenzarán a desplegarse durante las próximas semanas.
Fecha de la fuente original: 30/10/2026.
Ilustración y texto preparados con asistencia de IA. Composición editorial de ARQUÍA.
Consultar la fuente original: OpenAI