#LLM
Come “ragiona” un modello linguistico: token, attenzione e probabilità
Dietro ogni risposta di un LLM c'è un meccanismo sorprendentemente semplice da descrivere: prevedere il pezzo di testo successivo. Capirlo aiuta a usarlo meglio.
Dietro ogni risposta di un LLM c'è un meccanismo sorprendentemente semplice da descrivere: prevedere il pezzo di testo successivo. Capirlo aiuta a usarlo meglio.
La Retrieval-Augmented Generation permette a un modello di rispondere usando manuali, procedure e contratti interni, citando le fonti. Ecco come funziona.