Capitolo 8 di 1553%
Capitolo 8

AI Generativa: Quando l'AI Crea

Da ChatGPT alle immagini generate

📌Come Funziona un LLM

Un genera testo predicendo il token successivo in base al contesto. L'output può essere fluido ma non sempre corretto.

Nota pratica: separa qualità linguistica da accuratezza fattuale. Per renderla robusta servono anche , , limiti di , strategie di e allineamento tipo .
Takeaway: testo convincente non equivale a testo vero.

🖼️ Infografica

In arrivo

Il ciclo di generazione token per token negli LLM: come il modello predice il prossimo token in base al contesto, con distribuzione di probabilita e sampling (temperature, top-k). Schema dei layer di attention e feed-forward con esempi numerici reali.

media/ch08-generative-ai/sec-01/infographic.png

📌Prompt Engineering

Prompt vaghi producono output generici; prompt strutturati aumentano pertinenza, formato e coerenza.

Nota pratica: usa template con ruolo, contesto, vincoli e output atteso.
Takeaway: prompt design è una leva di controllo.

🎬 Video

In arrivo

Confronto visivo step-by-step tra prompt vaghi e prompt strutturati sullo stesso obiettivo: come aggiungere ruolo, vincoli di formato e contesto specifico trasforma radicalmente la qualita dell output. Esempi pratici di prompt engineering per casi reali.

media/ch08-generative-ai/sec-02/video.mp4

🚀Startup Lens

Generative AI in produzione richiede : verifica fonti, filtri sicurezza, logging e fallback umano sui casi critici.

⚠️Errore comune + Check rapido

Errore comune: pubblicare output AI senza verifica.

Check rapido (2 min): prendi un output e indica 2 controlli minimi da fare prima di usarlo.

Generative AI Workflow — Prompt Engineering

📋 Setup

Cosa imparerai in questo lab:

  • Connetterti a un LLM reale via API (gratis, senza carta)
  • Confrontare prompt vaghi vs strutturati sullo stesso obiettivo
  • Usare il system prompt per controllare il comportamento del modello
  • Valutare la qualità dell'output con criteri pratici

Prerequisiti:

  • ✅ Python 3.7+
  • ✅ pip installato
  • ✅ Account Groq gratuito — console.groq.com (no carta)

Comandi di avvio:

# 1. Estrai lo ZIP e accedi

$ cd ml-lab-04-generative-ai/

# 2. Installa le dipendenze

$ pip install -r requirements.txt

# 3. Crea file .env con la tua chiave Groq

$ echo "GROQ_API_KEY=gsk_..." > .env

# 4. Esegui il lab

$ python main.py

Step 1

Setup e connessione API

Carica la chiave API dal file .env e verifica la connessione con una chiamata test — nessuna carta di credito, account Groq gratuito.

Setup e connessione API — Codice

python

Loading...

🎯 Prova: Attenzione: se vedi un errore 401, controlla che la chiave API nel file .env sia corretta e che l'account Groq sia attivo.

Step 2

Prima chiamata — prompt semplice

Prima chiamata reale a un LLM: un prompt semplice per spiegare un concetto AI. Osserva la risposta e il conteggio token usati.

Prima chiamata — prompt semplice — Codice

python

Loading...

🎯 Prova: Prova: cambia il concetto — usa “deep learning” o “overfitting”. La risposta cambia? Nota come il modello adatta il linguaggio.

Step 3

Prompt vago vs Prompt strutturato

Stesso obiettivo, due prompt diversi: vago vs strutturato (ruolo + vincoli + formato). Il confronto diretto mostra quanto il prompt engineering impatta l'output.

Prompt vago vs Prompt strutturato — Codice

python

Loading...

🎯 Prova: Analizza: qual è la differenza tra le due risposte? Il prompt strutturato è sempre migliore, o dipende dal contesto?

Step 4

System Prompt — controllo comportamento

Il system prompt definisce ruolo e vincoli globali del modello — è il meccanismo più potente per controllare il comportamento dell'LLM in produzione.

System Prompt — controllo comportamento — Codice

python

Loading...

🎯 Prova: Sperimenta: cambia il ruolo nel system prompt — prova “Sei uno studente universitario scettico”. Come cambia il tono della risposta?

Step 5

Valutazione qualità output

Valuta le risposte con una scorecard semplice: lunghezza, struttura e coerenza col prompt. Introduce l'idea di QA sistematico sugli output generativi.

Valutazione qualità output — Codice

python

Loading...

🎯 Prova: Crea: sblocca la sezione ESPERIMENTO in fondo al main.py e testa il tuo prompt preferito — cosa riesci a far fare al modello?

🎯 Punti Chiave

  • LLM predice token, non ragiona come un umano
  • Prompt specifici migliorano controllo output
  • Serve verifica fattuale sui casi critici
  • Guardrail e fallback sono parte del prodotto
  • Learning outcome: progettare prompt robusti e validare output

💬 Discussione in Aula

  • Perché un output plausibile può essere comunque sbagliato?
  • Quali guardrail minimi metteresti in un chatbot pubblico?
  • Quando usare fallback umano in un flusso generativo?

Media del Capitolo

2/3 pronti

Gli slot con media reale non sono più placeholder; gli altri restano placeholder finché non carichiamo i file.

🎙️ Podcast

In arrivo

Podcast di ripasso su AI generativa, qualità fattuale e controlli in produzione.

Durata target: 18 min

Path previsto: media/ch08-generative-ai/podcast.mp3

💻 Code Snippets

Generazione testo con OpenAI API

python

Loading...

Struttura di un prompt ben formato (JSON)

json

Loading...

🧠 Smonta l'Allucinazione

Questo testo è stato generato da un LLM. Contiene 3 errori fattuali (allucinazioni). Clicca sulle frasi che ritieni false o inventate.

GPT-3 è stato rilasciato da OpenAI nel 2020 ed è il primo modello di linguaggio mai creato Il modello utilizza un'architettura chiamata LSTM sviluppata originalmente per la traduzione automatica Con i suoi 175 miliardi di parametri, GPT-3 ha dimostrato capacità notevoli su molti benchmark linguistici La temperatura nei modelli generativi controlla la lunghezza del testo prodotto: valori più alti generano testi più lunghi Le allucinazioni si verificano perché il modello genera token probabilistici senza accesso a fatti verificati in tempo reale

Selezionati: 0 span

🧠 Quiz del Capitolo

Domanda 1 / 100/10 risposte

1. Un output LLM sembra credibile ma cita dati inventati. Come lo classifichi?

Seleziona una risposta per continuare