El Índice de Seguridad de IA del Future of Life Institute da un C+ como mejor nota de toda la industria, y no es a Mistral que suspende pese a operar bajo la regulación más estricta del mundo.
Y cuando la empresa quiso investigar el ataque, sus propios modelos de IA se negaron a analizarlo
pentest-ai automatiza el pentesting con IA coordinando herramientas ofensivas reales. Con un matiz: solo con un modelo local los datos quedan completamente aislados de terceros
xAI, la empresa de IA de Elon Musk, demanda a un hombre que usó Grok para crear deepfakes sexuales de menores.
La Comisión Europea impone a Google dos medidas de la DMA: abrir funciones clave de Android a asistentes de IA rivales y compartir sus datos de búsqueda con motores de la competencia.
OASIS es una herramienta open source de auditoría de seguridad que usa modelos locales de Ollama para detectar vulnerabilidades en código fuente.
Todo el análisis ocurre en tu máquina, sin enviar código a ningún servidor externo.
OWASP AI Exchange acaba de publicar Threat Advisor, un asistente basado en NotebookLM que guía a cualquier equipo en el análisis de amenazas de seguridad de su sistema de IA.
NVIDIA ha publicado SkillSpector, un escáner open source que analiza skills de agentes de IA antes de instalarlas. Las skills no son solo prompts, pueden incluir código ejecutable con tus mismos permisos.
El gobierno estadounidense ha emitido una directiva de control de exportaciones que obliga a Anthropic a desactivar el acceso a Fable 5 y Mythos 5 para todos los usuarios.
Las respuestas de la IA son «palabras propias» de Google, no contenido de terceros, por lo que este no puede acogerse a la protección de responsabilidad limitada de los buscadores convencionales.
Google y Kaggle han abierto el registro para la segunda edición de su curso intensivo gratuito de agentes de IA. Cinco días, del 15 al 19 de junio, con foco en vibe coding, sistemas multiagente y despliegue en producción.
Se ha descubierto que ChatGPT confía ciegamente en los enlaces e imágenes de las páginas que resume. Eso basta para que un atacante convierta cualquier web en una superficie de phishing dentro de la interfaz de la IA.
GitHub ha lanzado en beta el GH-600, la primera certificación oficial para desarrolladores de agentes de IA en producción. 120 minutos y 165 dólares de precio base.
ChatGPT no solo guarda tus conversaciones: construye memoria sobre ti, usa tus chats para entrenar modelos y desde 2025 puede personalizar respuestas usando tu historial completo. Así puedes ver, exportar y eliminar esos datos
La Comisión Europea ha presentado su app de verificación de edad para redes sociales. El objetivo declarado es proteger a los menores. El problema es la infraestructura de control de identidad digital que se está construyendo por debajo, y para qué más puede usarse una vez desplegada.
OpenAI ha lanzado su propia academia online gratuita con cursos para aprender inteligencia artificial. Desde productividad con ChatGPT hasta ética de la IA, la plataforma ofrece formación accesible para estudiantes, docentes y profesionales de cualquier nivel.
El Parlamento Europeo y el Consejo de la Unión Europea alcanzaron un acuerdo provisional sobre el Reglamento de Inteligencia Artificial (IA)
Google ha presentado Gemini, su más reciente y prometedor desarrollo en IA.
La inteligencia artificial sigue avanzando a pasos agigantados y la empresa Palantir, fundada en 2003 por el multimillonario Peter Thiel, no se queda atrás
A finales del mes de marzo, conocidos nombres como Musk, Harari, Wozniak y un gran número de empresarios, investigadores y académicos han solicitado a los gobiernos que apliquen una moratoria, en caso de que empresas como OpenAI y otras emergentes, se nieguen a «pausar» sus experimentos con sistemas de inteligencia artificial poco fiables