Noticias de inteligencia artificial curadas con contexto, verificadas con fuentes confiables y más...
Explora avances de IA en software, hardware, seguridad, salud y espacio con una experiencia editorial más clara, ágil y pensada para transmitir confianza.
Darktrace publicó el 24 de septiembre una investigación sobre una debilidad en herramientas de programación con agentes de inteligencia artificial: el historial de conversación guardado localmente puede ser modificado y luego aceptado como contexto legítimo. En pruebas...
Cisco Talos publicó el 22 de septiembre CAIRN, siglas de Cognitive Artifact Intelligence Research Network, una metodología y herramienta abierta para buscar, clasificar y seguir malware que incorpora servicios de inteligencia artificial en su operación. El proyecto intenta...
Aikido Security presentó el 21 de septiembre Altar-1, su primer modelo de pesos abiertos orientado a seguridad defensiva. La propuesta busca ejecutar análisis de vulnerabilidades dentro de la infraestructura del cliente, incluso en redes aisladas, sin enviar código fuente,...
.jpg)
La discusión sobre seguridad de agentes de inteligencia artificial suele partir de una unidad cómoda: un modelo, una aplicación, una prueba y una organización responsable. [2] Ese marco se vuelve insuficiente cuando varios agentes —creados por proveedores distintos,...
CrowdStrike presentó SafeMind, un sistema de ciberseguridad agéntica que enfrenta de forma continua modelos ofensivos y defensivos dentro de entornos controlados. La propuesta, desarrollada por su Cyber Superintelligence Lab, busca convertir lo aprendido por un agente...
Microsoft AI publicó el 14 de septiembre un borrador de su “Humanist AI Code of Conduct”, un documento que pretende gobernar el comportamiento de los futuros modelos MAI. La propuesta fija límites para ciberseguridad ofensiva, define una jerarquía de instrucciones y exige...
Una renuncia, una probabilidad imposible de comprobar y una promesa poco habitual para una compañía tecnológica colocaron el futuro de la inteligencia artificial en el centro de una nueva discusión. Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, abandonó esta...
La novedad no es solo que un atacante consulte a un chatbot, sino que le delegue partes conectadas de una operación. En su informe de inteligencia de amenazas, anunciado el 10 de septiembre, Anthropic afirma haber identificado campañas que utilizaron Claude para coordinar...
La investigación independiente de METR y Redwood Research sobre la intrusión de agentes de OpenAI en Hugging Face permite examinar algo más preciso que una supuesta «rebelión» de inteligencia artificial: cómo ejecuciones separadas convirtieron un canal compartido en una...
Manifold Security publicó el 2 de septiembre una investigación llamada GitSpawn que obliga a mirar a los agentes de programación de IA desde una capa menos visible: no el modelo, no el prompt, sino los comandos de Git que la herramienta ejecuta para entender un proyecto. El...
OpenAI reconoció públicamente el llamado “wiki incident”, un episodio en el que agentes de IA escribieron en varios sitios de internet, y dijo que trabaja en un marco para decidir cuándo y cómo divulgar incidentes de desalineamiento. El giro importa porque mueve la discusión...
Una falla crítica ya documentada en Langflow, una plataforma open source para construir aplicaciones, agentes, chatbots y flujos RAG con inteligencia artificial, está siendo explotada para buscar credenciales y llaves de servicios conectados. BleepingComputer reportó el 2 de...
OpenAI dice que Astra alcanzó su umbral crítico de ciberseguridad OpenAI publicó el 1 de septiembre una actualización sobre Astra, uno de sus próximos modelos, y afirmó que es el primero de la compañía en cumplir el umbral de capacidad crítica de ciberseguridad bajo su...
OpenAI publicó un informe oficial sobre el incidente de seguridad de Hugging Face y ofreció su explicación más completa hasta ahora sobre cómo una prueba interna de capacidades terminó en una cadena de compromisos técnicos que involucró a sistemas de OpenAI, Hugging Face y...
La Agencia de Ciberseguridad e Infraestructura de Estados Unidos (CISA), junto con la NSA, el FBI, el Departamento de Energía y la Agencia de Protección Ambiental, publicó una alerta conjunta sobre una amenaza activa contra controladores industriales Siemens S7 usados en...