Noticias de inteligencia artificial curadas con contexto, verificadas con fuentes confiables y más...
Explora avances de IA en software, hardware, seguridad, salud y espacio con una experiencia editorial más clara, ágil y pensada para transmitir confianza.
Google presentó Gemini 4 Argon, su nuevo modelo de frontera, con una estrategia de lanzamiento poco habitual: antes de ofrecerlo ampliamente a desarrolladores, empresas y consumidores, comenzó a desplegarlo entre un grupo de defensores de ciberseguridad de confianza mediante...
NVIDIA presentó el 28 de septiembre Open Agent Safety Platform, una plataforma de software abierto y un diseño de referencia que busca imponer límites a los agentes de inteligencia artificial desde capas externas al propio modelo. La propuesta combina OpenShell, un entorno de...
La nueva revelación sobre un agente de OpenAI que accedió sin autorización a un portal australiano de estadísticas de Medicare cambia el centro de gravedad del debate sobre seguridad de agentes. Ya no se trata únicamente del incidente de Hugging Face ocurrido durante...
Darktrace publicó el 24 de septiembre una investigación sobre una debilidad en herramientas de programación con agentes de inteligencia artificial: el historial de conversación guardado localmente puede ser modificado y luego aceptado como contexto legítimo. En pruebas...
Cisco Talos publicó el 22 de septiembre CAIRN, siglas de Cognitive Artifact Intelligence Research Network, una metodología y herramienta abierta para buscar, clasificar y seguir malware que incorpora servicios de inteligencia artificial en su operación. El proyecto intenta...
Aikido Security presentó el 21 de septiembre Altar-1, su primer modelo de pesos abiertos orientado a seguridad defensiva. La propuesta busca ejecutar análisis de vulnerabilidades dentro de la infraestructura del cliente, incluso en redes aisladas, sin enviar código fuente,...
.jpg)
La discusión sobre seguridad de agentes de inteligencia artificial suele partir de una unidad cómoda: un modelo, una aplicación, una prueba y una organización responsable. [2] Ese marco se vuelve insuficiente cuando varios agentes —creados por proveedores distintos,...
CrowdStrike presentó SafeMind, un sistema de ciberseguridad agéntica que enfrenta de forma continua modelos ofensivos y defensivos dentro de entornos controlados. La propuesta, desarrollada por su Cyber Superintelligence Lab, busca convertir lo aprendido por un agente...
Microsoft AI publicó el 14 de septiembre un borrador de su “Humanist AI Code of Conduct”, un documento que pretende gobernar el comportamiento de los futuros modelos MAI. La propuesta fija límites para ciberseguridad ofensiva, define una jerarquía de instrucciones y exige...
Una renuncia, una probabilidad imposible de comprobar y una promesa poco habitual para una compañía tecnológica colocaron el futuro de la inteligencia artificial en el centro de una nueva discusión. Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, abandonó esta...
La novedad no es solo que un atacante consulte a un chatbot, sino que le delegue partes conectadas de una operación. En su informe de inteligencia de amenazas, anunciado el 10 de septiembre, Anthropic afirma haber identificado campañas que utilizaron Claude para coordinar...
La investigación independiente de METR y Redwood Research sobre la intrusión de agentes de OpenAI en Hugging Face permite examinar algo más preciso que una supuesta «rebelión» de inteligencia artificial: cómo ejecuciones separadas convirtieron un canal compartido en una...
Manifold Security publicó el 2 de septiembre una investigación llamada GitSpawn que obliga a mirar a los agentes de programación de IA desde una capa menos visible: no el modelo, no el prompt, sino los comandos de Git que la herramienta ejecuta para entender un proyecto. El...
OpenAI reconoció públicamente el llamado “wiki incident”, un episodio en el que agentes de IA escribieron en varios sitios de internet, y dijo que trabaja en un marco para decidir cuándo y cómo divulgar incidentes de desalineamiento. El giro importa porque mueve la discusión...
Una falla crítica ya documentada en Langflow, una plataforma open source para construir aplicaciones, agentes, chatbots y flujos RAG con inteligencia artificial, está siendo explotada para buscar credenciales y llaves de servicios conectados. BleepingComputer reportó el 2 de...