Metodi di ingegneria del prompt nelle reti neurali

L’ingegneria del prompt è una tecnica utilizzata per guidare e ottimizzare le prestazioni dei modelli di linguaggio di grandi dimensioni, come GPT-4 e simili. In questo articolo, discuteremo dei diversi metodi di ingegneria del prompt, come il Chain-of-Thought (CoT) prompting e le sfide legate all’utilizzo di questi metodi, con esempi pratici per illustrare i concetti.

L’importanza dei prompt nella modellazione del linguaggio

I modelli di linguaggio di grandi dimensioni, come GPT-4, sono addestrati su enormi quantità di testo e sono in grado di generare output simili al testo prodotto dagli esseri umani. Tuttavia, questi modelli incontrano ancora difficoltà in compiti di ragionamento che richiedono capacità logiche e risoluzione di problemi multi-step, come problemi aritmetici o questioni di ragionamento di senso comune. L’ingegneria del prompt mira a guidare il modello a produrre risposte più coerenti e utili per gli utenti, superando queste difficoltà.

Il metodo Chain-of-Thought (CoT)

Nell’ambito delle buone pratiche per la scrittura dei prompt, il metodo Chain-of-Thought (CoT) prompting è stato proposto per migliorare le capacità di ragionamento dei modelli di linguaggio di grandi dimensioni. Il metodo consiste nell’incoraggiare il modello a generare una serie di passaggi intermedi che conducono alla risposta finale di un problema composto da molti passaggi (multi-step).

Esempio pratico di CoT prompting

Immaginiamo di avere una domanda come questa: “La mensa aveva 15 mele. Se ne sono usate 8 per preparare il pranzo e ne sono state acquistate altre 5, quante mele ci sono ora?”. Un prompt CoT potrebbe indurre il modello a rispondere con una serie di passaggi di ragionamento simili a: “La mensa aveva inizialmente 15 mele. Ne sono state utilizzate 8 per il pranzo, quindi rimangono 15 – 8 = 7. Sono state acquistate altre 5 mele, quindi ora ce ne sono 7 + 5 = 12. La risposta è 12.”

Metodi per stimolare il ragionamento CoT

Esistono due metodi principali per stimolare il ragionamento CoT: il prompting a pochi esempi (few-shot) e il prompting a zero esempi (zero-shot).

Few-shot prompting

Nel few-shot prompting, almeno un esempio di una domanda abbinata a un ragionamento CoT corretto viene aggiunto al prompt. Questo aiuta il modello a capire meglio il tipo di ragionamento che ci si aspetta da esso. Ad esempio, immagina di voler scrivere un prompt per risolvere un problema matematico che richiede più passaggi. Nel few-shot prompting, forniresti al modello almeno un esempio di una domanda insieme al suo ragionamento CoT corretto, come segue:

In questo caso, hai fornito un esempio di domanda e del relativo ragionamento CoT al modello. Ora, il modello può utilizzare questo esempio per capire che tipo di ragionamento e risposta ci si aspetta per la nuova domanda. Grazie all’esempio fornito, il modello sarà in grado di generare un ragionamento simile per la nuova domanda e fornire la risposta corretta.

Zero-shot prompting

Nel zero-shot prompting, non è fornito alcun esempio di ragionamento CoT. Invece, si può aggiungere al prompt una frase come “Pensiamo passo dopo passo” per incoraggiare il modello a produrre una sequenza di passaggi logici.

Sfide e problemi nella pratica del CoT prompting

Sebbene il ragionamento CoT possa migliorare le prestazioni dei modelli di linguaggio nelle attività di elaborazione del linguaggio naturale, esistono alcune sfide e problemi da affrontare.

Output tossici e bias

Una delle principali sfide è che il prompting zero-shot CoT può aumentare la probabilità di generare output tossici o offensivi, specialmente quando il modello deve fare inferenze su gruppi marginalizzati o temi controversi. È quindi importante monitorare e filtrare attentamente gli output del modello per evitare di generare contenuti inappropriati.

Applicazioni dell’ingegneria del prompt nel campo text-to-image

Nel 2022, sono stati rilasciati modelli di apprendimento automatico come DALL-E 2, Stable Diffusion e Midjourney. Questi modelli ricevono input di testo e li utilizzano per generare immagini, introducendo una nuova categoria di ingegneria dei prompt legata al text-to-image prompting.

Sicurezza e vulnerabilità: Prompt injection

Il prompt injection è una famiglia di exploit di sicurezza informatica che coinvolgono l’utilizzo di modelli di apprendimento automatico, come i modelli di linguaggio di grandi dimensioni, per eseguire istruzioni fornite da utenti con intenti malevoli. Questo si contrappone all’operazione prevista dei sistemi basati sull’obbedienza alle istruzioni, in cui il modello dovrebbe seguire solo istruzioni fidate (prompt) fornite dall’operatore del modello.

Tipi comuni di attacchi di prompt injection

Alcuni tipi comuni di attacchi di prompt injection includono:

• Jailbreaking: può includere chiedere al modello di interpretare un personaggio, fornire argomenti o fingere di essere superiore alle istruzioni di moderazione; il noto prompt “Do Anything Now“, conosciuto come DAN, fa parte di questa famiglia;
• Prompt leaking: gli utenti convincono il modello a rivelare il prompt che dovrebbe essere nascosto agli utenti;
• Token smuggling: un altro tipo di attacco di jailbreaking in cui il prompt malevolo viene inserito in un compito di scrittura di codice.

Conclusione

L’ingegneria del prompt e il metodo Chain-of-Thought offrono modi efficaci per migliorare le prestazioni dei modelli di linguaggio nelle attività di elaborazione del linguaggio naturale. Tuttavia, esistono sfide e problemi di sicurezza che devono essere affrontati per garantire l’uso responsabile e sicuro di queste tecniche. Attraverso la ricerca e lo sviluppo continuo, gli scienziati informatici e gli esperti di intelligenza artificiale possono lavorare insieme per superare queste difficoltà e realizzare il pieno potenziale dei modelli di linguaggio di grandi dimensioni.