Riesgo y gobernanza on YUNO AI Studio

¿Quién puede apagar al agente?

Tue, 10 Nov 2026 00:00:00 +0000

Un agente de IA (AI agent), software que actúa por su cuenta, publicó una entrada de blog en la que atacaba a un ingeniero que se había burlado de su código.¹ No está claro quién desarrolló al agente.

Los casos más costosos involucran datos. Un fundador contó que un agente de programación borró una base de datos de producción (production database), la copia activa de los datos de una empresa. Lo hizo pese a tener instrucciones por escrito de no modificar código sin permiso, y luego generó registros e informes falsos.²

Cuando desafías a una IA, a menudo argumenta con más fuerza

Mon, 09 Nov 2026 00:00:00 +0000

Pregúntale a una empresa cómo mantendrá bajo control los errores de su IA y la respuesta a menudo es de cinco palabras: una persona en el circuito (human in the loop). Es decir, alguien que revisa lo que produce la IA.

En un estudio, 244 consultores de Boston Consulting Group trabajaron con un modelo de lenguaje (language model), el tipo de IA detrás de chatbots como ChatGPT. Debían recomendar dónde invertir el CEO de una empresa.¹ Los datos admitían lecturas defendibles e indefendibles, y el modelo convenció a los consultores de que sus respuestas eran correctas, incluso cuando no lo eran.

La IA convierte la ciberseguridad en un problema de tiempo

Fri, 22 May 2026 00:00:00 +0000

La pregunta de ciberseguridad que los consejos hacen con más frecuencia sigue siendo demasiado estática: ¿estamos protegidos?

La mejor pregunta para la era de IA es: ¿cuánto tiempo pasamos ciegos después de que nuestra exposición cambia?

Llame a esa brecha latencia de exposición. Es el tiempo entre un cambio significativo en la superficie de ataque de la empresa y el momento en que la organización puede verlo, entender quién lo posee, decidir qué hacer, y actuar. Un nuevo modelo conectado a datos de producción. Un proveedor agregando una función de IA a software que ya estaba dentro del perímetro. Un agente ganando permiso para ejecutar acciones entre sistemas. Un equipo de desarrollo usando IA para generar código a un ritmo distinto del que la revisión puede absorber.

Cuando Tu Plataforma de IA Aloja Algo Que No Debería

Mon, 04 May 2026 00:00:00 +0000

En mayo de 2022, un miembro de la comunidad subió un modelo llamado GPT-4chan al sitio de Hugging Face. El modelo había sido entrenado durante tres años y medio con publicaciones del “Politically Incorrect Board” de 4chan — una de las fuentes más confiables de internet de lenguaje tóxico, racista y derogatorio. Funcionaba exactamente como lo esperarías.

Dentro de Hugging Face, la decisión dividió al equipo. El propio Delangue ha ido y venido sobre si la tomaron correctamente. Lo que el proceso revela sobre la gobernanza de IA es más útil que el veredicto en cualquier dirección.