La IA hizo exactamente lo que le pediste. Ese fue el problema.
Recientemente, Anthropic (la empresa que desarrolla Claude) publicó un reporte que hace algunos años pensarías que era pura ciencia ficción, pero es muy real: uno de sus modelos de IA mandó un aviso falso a la Policía de Filadelfia.
No fue un hackeo ni una broma. Fue una prueba interna. Te cuento el detalle: le pidieron a un agente que inventara y ejecutara tareas de ejemplo en páginas web elegidas al azar. Cayó en una página sobre un homicidio sin resolver, encontró el formulario para enviar pistas, lo más aterrador para mí es que “hablaba” como persona: “recuerdo haber visto a alguien que coincide con la descripción”… y lo envió. La página ni siquiera describía al sospechoso. La IA no puede sentir o recordar por sí misma, pero puede describir como es sentir o recordar, porque hay muchísimas fuentes en qué basarse para ello.
Lo que más me llamó la atención no fue el incidente. Fue la lista de instrucciones que tenía el agente: no iniciar sesión, no crear cuentas, no capturar datos personales, no hacer compras, no enviar nada destructivo.
Una lista bastante completa. Y aun así le faltó una línea: no envíes formularios.
El agente no desobedeció. Hizo exactamente lo que le pidieron, dentro de todo lo que nadie le prohibió.
Esto ya lo vivimos (sin IA)
Si llevas tiempo gestionando proyectos, esta historia te suena. En todos mis cursos y consultoría hago especial énfasis en enfocarnos primero que nada en la razón de la mayoría de los problemas en proyectos: gestión de alcance, detallar y acordar lo que incluye el proyecto. El típico caso del proveedor que entregó “lo que decía el contrato”, o el analista que “no sabía que eso no se mandaba al cliente”, o el equipo que, cuando algo no podría ser resuelto con sus medios, no escaló y el impacto fue mayor.
El mismo reporte describe otro caso. Un modelo debía practicar llenando una copia de prueba de un formulario de gobierno. Cuando la copia no cargó, se fue a la página real y lo envió ahí.
Anthropic lo explica con una palabra: persistencia. Cuando el modelo no puede completar la tarea como se la dieron, busca cómo rodear la restricción en lugar de parar. Y reconoce que varias de estas fallas se habrían evitado si las instrucciones hubieran dejado claro qué estaba dentro y qué fuera del alcance.
Por qué te importa hoy y no en cinco años
Esto pasó en pruebas, sí. Pero las mismas capacidades ya están entrando a los sistemas donde vive tu operación. Microsoft abrió la vista previa pública de Work IQ: Copilot y sus agentes ya pueden leer los datos de Dynamics 365, proponer cambios, pasarlos por aprobaciones y escribir de regreso en los registros. La cobertura del ERP está programada para finales de octubre.
Muy pronto, un agente hará en segundos el reporte de avance que hoy te toma media mañana o dos semanas. Y también podrá actualizar el registro del cliente.
Y un detalle más que me parece el más importante. El aviso falso se envió el 18 de julio. Anthropic lo encontró revisando transcripciones y avisó a la policía hasta octubre; demasiado tiempo para que el impacto crezca.
La IA actúa en segundos. Nosotros nos damos cuenta en meses.
Entonces, ¿dónde queda tu valor?
Si la IA ya hace el reporte en segundos, tu valor como líder no está en hacer el reporte. Está en tres cosas que la IA no puede decidir por ti.
La IA no sabe dónde termina su trabajo, aquí mi consejo: la gestión de alcance es uno de tus principales aportes como Project Manager. Algunos tips:
1. Escribe lo que sí y lo que no. Decir “No hagas nada equivocado” es un alcance. Escribe, como en un enunciado de alcance: qué fuentes debe usar, qué puede enviar, a quién, y qué nunca sale sin tu revisión. Si se lo dirías a un analista nuevo, díselo al agente.
2. Define cuándo detenerse. En el caso del formulario de práctica, la falla técnica era lo de menos. Lo grave es que nadie definió qué hacer si algo fallaba. Agrega siempre una regla: “si no puedes hacerlo como te lo pedí, para y avísame”. Y pregúntate lo mismo de tu equipo: ¿saben cuándo escalar en lugar de resolverlo a su manera?
3. Revisa el camino, no solo el entregable. El reporte puede verse impecable. La pregunta es cómo llegó ahí. Una vez por semana, toma una muestra y abre los pasos, no solo el resultado. Diez minutos. Fue justo esa revisión la que permitió encontrar lo que pasó.
Lo que nunca fue talacha
La IA hizo exactamente lo que le pidieron. Ese fue el problema. Y también es la mejor noticia para quienes lideramos proyectos: definir el alcance, decidir cuándo parar y revisar cómo se hizo el trabajo nunca fue talacha. Siempre fue el trabajo. Afortunadamente ahí todavía tenemos mucho que aportar.
¿Tu equipo, humano o artificial, sabe hoy en qué momento debe detenerse y preguntarte?
De esto voy a hablar en mi próximo live: cómo mantener tu valor como líder cuando la IA hace un reporte en segundos, te espero en LinkedIn
Anthropic — Investigating unintended model actions in our evaluations and internal use (9 oct 2026)
Al Jazeera — Anthropic AI model submits false homicide tip to Philadelphia police (10 oct 2026)
Honolulu Star-Advertiser / NYT — reacción de la Casa Blanca (10 oct 2026)
ERP Today — Microsoft Opens Work IQ Preview for Dynamics 365 and Power Platform Data
Comentarios