Inteligencia Artificial Generativa

Azure OpenAI Service proporciona acceso a modelos de IA generativa avanzados desarrollados por OpenAI.

Modelos Disponibles:
- GPT (Generative Pre-trained Transformer): Modelos de lenguaje para generación de texto, resumen y chat
- DALL-E: Modelos para generación de imágenes a partir de descripciones textuales
- Codex: Modelos especializados en generación y comprensión de código
- Whisper: Modelos para transcripción y traducción de audio

GPT Series:
- GPT-3.5: Modelo versátil para chat, redacción y análisis
- GPT-4: Modelo más avanzado con mejor razonamiento y capacidades multimodales
- GPT-4 Turbo: Versión optimizada con mayor velocidad y eficiencia

Características de los Modelos:
- Escalabilidad: Pueden manejar tareas de diferentes complejidades
- Multilingüe: Soporte para múltiples idiomas
- Contextual: Mantienen contexto en conversaciones largas
- Personalizable: Fine-tuning para casos de uso específicos

Azure OpenAI Service es la plataforma de Microsoft para acceder y gestionar modelos de OpenAI de forma segura.

Azure Studio:
- Interfaz web para interactuar con modelos de OpenAI
- Herramientas para experimentar y prototipar
- Gestión de recursos y costos

Playgrounds:
- Chat Playground: Para conversaciones y chatbots
- Completions Playground: Para generación de texto
- DALL-E Playground: Para generación de imágenes
- Code Playground: Para trabajo con código

Parámetros Básicos:
- Temperatura: Controla la creatividad (0-2, más alto = más creativo)
- Top P: Controla la diversidad de respuestas (0-1, más alto = más diverso)
- Max Tokens: Limita la longitud de la respuesta
- Stop Sequences: Define cuándo detener la generación

Seguridad y Cumplimiento:
- Encriptación de datos en tránsito y en reposo
- Cumplimiento con estándares de privacidad
- Filtros de contenido para uso responsable
- Monitoreo y logging de uso

La ingeniería de prompts es el arte de diseñar instrucciones efectivas para obtener mejores respuestas de modelos de IA generativa.

Técnicas Básicas:
- Ser específico: Dar instrucciones claras y detalladas
- Proporcionar contexto: Incluir información relevante de fondo
- Definir formato: Especificar cómo debe estructurarse la respuesta
- Usar ejemplos: Mostrar ejemplos de entrada y salida deseada

Estructura de un Buen Prompt:
1. Rol: Definir el rol que debe asumir el modelo
2. Tarea: Describir claramente qué debe hacer
3. Contexto: Proporcionar información de fondo necesaria
4. Instrucciones: Dar directrices específicas sobre el formato y estilo
5. Ejemplos: Incluir ejemplos cuando sea apropiado

Tipos de Prompts:
- Prompts cerrados: Para respuestas específicas y estructuradas
- Prompts abiertos: Para generación creativa y exploratoria
- Prompts de few-shot: Con ejemplos para guiar el comportamiento
- Prompts de chain-of-thought: Para razonamiento paso a paso

Los Copilots son asistentes de IA integrados en aplicaciones de Microsoft que ayudan a los usuarios a ser más productivos.

Concepto de Copilot:
- Asistentes inteligentes que trabajan junto al usuario
- Integrados en aplicaciones familiares como Word, Excel, Teams
- Usan IA generativa para ayudar en tareas complejas
- Aprenden del contexto y comportamiento del usuario

Ejemplos de Copilots de Microsoft:
- GitHub Copilot: Asistente de programación en VS Code
- Microsoft Copilot: Asistente general en Windows y Edge
- Copilot en Office: Ayuda en Word, Excel, PowerPoint
- Copilot en Teams: Mejora reuniones y colaboración

Características:
- Contextual: Entiende el contexto de la tarea actual
- Proactivo: Sugiere acciones antes de que se soliciten
- Personalizable: Se adapta a las preferencias del usuario
- Seguro: Respeta la privacidad y seguridad de los datos

Beneficios:
- Aumenta la productividad al automatizar tareas repetitivas
- Reduce la curva de aprendizaje de herramientas complejas
- Proporciona asistencia experta en tiempo real
- Mejora la creatividad y resolución de problemas

La IA generativa plantea desafíos únicos de responsabilidad que requieren medidas específicas de seguridad y ética.

Filtros de Contenido:
- Prevención de jailbreaks: Bloquea intentos de manipular el modelo
- Moderación de contenido: Filtra contenido dañino o inapropiado
- Verificación factual: Reduce alucinaciones y información incorrecta

Desafíos Específicos de GenAI:
- Alucinaciones: Generación de información falsa pero convincente
- Sesgos amplificados: Los sesgos en los datos de entrenamiento se propagan
- Desinformación: Capacidad de generar contenido engañoso a escala
- Abuso de deepfakes: Creación de contenido falso realista

Medidas de Mitigación:
- Fine-tuning responsable: Entrenamiento adicional para reducir sesgos
- Monitoreo continuo: Detección de uso indebido en tiempo real
- Transparencia: Documentación de limitaciones y capacidades
- Controles de acceso: Restricción de uso para casos de alto riesgo
- Educación del usuario: Conciencia sobre las limitaciones de la IA

Marco de Microsoft:
- Six AI Principles: Aplicados específicamente a modelos generativos
- Content Safety: Filtros automáticos y moderación humana
- Fairness in AI: Auditorías regulares de sesgos
- Accountability: Rastreo de uso y responsabilidad clara

Una de las capacidades más importantes en el examen es la posibilidad de conectar los modelos de lenguaje (como GPT-4) a tus propios datos empresariales sin necesidad de reentrenar el modelo.

Concepto (RAG - Retrieval Augmented Generation):
1. Ingesta: Azure indexa tus documentos (PDFs, Word, HTML) usando Azure AI Search.
2. Recuperación: Cuando un usuario hace una pregunta, el sistema busca la información relevante en tus documentos.
3. Generación: Envía esa información al modelo GPT como 'contexto' para que genere una respuesta basada *únicamente* en tus datos.

Beneficios:
- Respuestas precisas: Evita que el modelo invente información (alucinaciones).
- Datos actualizados: No depende de la fecha de corte de entrenamiento del modelo.
- Seguridad: Los datos privados no se usan para entrenar el modelo público base.
- Citas: El modelo puede citar qué documento usó para responder.

Para entender cómo funcionan y se cobran estos modelos, es necesario conocer dos unidades fundamentales.

Tokens (La unidad de texto):
- Los modelos no leen palabras completas, leen 'tokens' (fragmentos de caracteres).
- Regla general: 1,000 tokens ≈ 750 palabras.
- Importancia: Azure OpenAI factura por cada 1,000 tokens procesados (entrada + salida). También existen límites de tokens por solicitud (Ventana de contexto).

Embeddings (La unidad de significado):
- Es un formato especial de representación de datos que convierte texto en vectores numéricos (listas de números).
- Uso: Permite a las computadoras entender la relación semántica entre palabras.
- Ejemplo: En un espacio vectorial, la palabra 'Reina' estará matemáticamente cerca de 'Rey' y 'Mujer'. Se usa para búsquedas inteligentes.