⚖️
Módulo 2: Ética y Responsabilidad
Los 5 principios de Salesforce, Human-in-the-Loop y Riesgos
⏱️ Tiempo estimado de lectura: 35 minutos
Capítulo 3: Los Desafíos y Riesgos de la IA
El uso de la IA conlleva riesgos graves que Salesforce evalúa constantemente.
1. Alucinaciones (Hallucinations):
Cuando la IA genera respuestas que suenan convincentes y reales, pero son completamente falsas o inventadas. La IA no sabe decir 'no sé', prefiere inventar.
2. Sesgo (Bias):
Prejuicios en los resultados debido a datos de entrenamiento defectuosos o sesgados (ej: una IA de contratación que rechaza mujeres porque se entrenó con CVs de hombres de hace 20 años).
3. Toxicidad:
Generación de contenido ofensivo, violento o dañino.
4. Privacidad:
El riesgo de que datos confidenciales de clientes (PII) sean absorbidos por el modelo público.
1. Alucinaciones (Hallucinations):
Cuando la IA genera respuestas que suenan convincentes y reales, pero son completamente falsas o inventadas. La IA no sabe decir 'no sé', prefiere inventar.
2. Sesgo (Bias):
Prejuicios en los resultados debido a datos de entrenamiento defectuosos o sesgados (ej: una IA de contratación que rechaza mujeres porque se entrenó con CVs de hombres de hace 20 años).
3. Toxicidad:
Generación de contenido ofensivo, violento o dañino.
4. Privacidad:
El riesgo de que datos confidenciales de clientes (PII) sean absorbidos por el modelo público.
Puntos Clave
- ✓ Alucinación = Mentira con confianza.
- ✓ Sesgo = Discriminación aprendida de los datos.
- ✓ Nunca pongas datos reales (PII) en ChatGPT público.
Capítulo 4: Los 5 Principios de IA Confiable
Debes memorizar estos 5 principios de Salesforce:
1. Precisión (Accuracy): Entregar resultados verificables, citar fuentes y equilibrar la precisión con la velocidad.
2. Seguridad (Safety): Proteger la privacidad (PII) y evitar resultados tóxicos. Realizar 'Red Teaming' (simulacros de ataque) para probar vulnerabilidades.
3. Honestidad (Honesty): La IA debe respetar la procedencia de los datos y ser transparente: un bot siempre debe identificarse como un bot.
4. Empoderamiento (Empowerment): La IA está para aumentar la capacidad humana, no para reemplazar a los empleados.
5. Sostenibilidad (Sustainability): Optimizar el tamaño de los modelos para reducir la huella de carbono y el consumo de energía.
1. Precisión (Accuracy): Entregar resultados verificables, citar fuentes y equilibrar la precisión con la velocidad.
2. Seguridad (Safety): Proteger la privacidad (PII) y evitar resultados tóxicos. Realizar 'Red Teaming' (simulacros de ataque) para probar vulnerabilidades.
3. Honestidad (Honesty): La IA debe respetar la procedencia de los datos y ser transparente: un bot siempre debe identificarse como un bot.
4. Empoderamiento (Empowerment): La IA está para aumentar la capacidad humana, no para reemplazar a los empleados.
5. Sostenibilidad (Sustainability): Optimizar el tamaño de los modelos para reducir la huella de carbono y el consumo de energía.
Puntos Clave
- ✓ Nemotecnia: P-S-H-E-S.
- ✓ La IA no reemplaza al humano (Empoderamiento).
- ✓ La IA no debe fingir ser humana (Honestidad).
Capítulo 5: El Humano en el Bucle (HITL)
Definición: Es la práctica de involucrar a seres humanos en el ciclo de vida de la IA para entrenar, ajustar y probar modelos, y lo más importante: revisar el contenido generado.
¿Cuándo es obligatorio?
- Antes de tomar decisiones de alto impacto (legales, médicas, financieras).
- Antes de enviar comunicaciones automáticas a clientes.
Rol del humano: La IA es el copiloto que genera un borrador; el humano es el piloto que revisa, edita y aprueba.
¿Cuándo es obligatorio?
- Antes de tomar decisiones de alto impacto (legales, médicas, financieras).
- Antes de enviar comunicaciones automáticas a clientes.
Rol del humano: La IA es el copiloto que genera un borrador; el humano es el piloto que revisa, edita y aprueba.
Puntos Clave
- ✓ HITL minimiza alucinaciones y riesgos.
- ✓ La responsabilidad final siempre es del humano, no de la IA.