4.1. Los 5 principios de la IA segura

4.1.1. Ética y Seguridad: El Cinturón de Seguridad

Antes de soltar tu IA a interactuar con clientes reales, debes pasarla por este filtro. Un error aquí destruye la confianza en segundos.

4.1.2. Los 5 Principios de IA Segura para PyMEs

No necesitas un comité de ética, necesitas sentido común aplicado.

Principio	El riesgo real	La solución técnica
1. Transparencia	El cliente se siente engañado al descubrir que es un bot.	Disclosure: El bot debe presentarse como IA en el primer mensaje.
2. Equidad	La IA discrimina (ej. da peores créditos a mujeres o zonas rurales).	Auditoría de sesgo: Probar el sistema con perfiles diversos antes de lanzar.
3. Responsabilidad	La IA promete un descuento que no existe.	Human-in-the-loop: Un humano debe aprobar decisiones de dinero > $X monto.
4. Privacidad	La IA filtra datos de otro cliente en el chat.	RAG segmentado: (Visto en Sesión 3) Control de acceso por usuario.
5. Robustez	Un usuario "hackea" al bot para que diga groserías.	Llama seguro: Usar la capa de seguridad de Meta (Llama Guard).

---

Matriz de riesgos éticos

Copia esta tabla y llénala para tu caso:

Riesgo	Probabilidad (1-5)	Impacto (1-5)	Mitigación
Alucinación de precios	3	5	El bot solo envía links al catálogo, no dice precios en texto.
Lenguaje ofensivo	1	5	Activar filtro de contenido en Groq.

CASO REAL Una aerolínea canadiense tuvo que pagar un reembolso porque su chatbot "alucinó" una política de descuentos que no existía. El juez dictaminó que la empresa es responsable de lo que dice su IA.