from transformers import pipeline
from pprint import pprint

device = "cpu"

model = 'nlptown/bert-base-multilingual-uncased-sentiment'
classifier = pipeline("sentiment-analysis", model=model, device=device)
res = classifier(
    "Ho trovato abbastanza interessante questa lezione sull'intelligenza artificiale",
    return_all_scores=True
)
pprint(res)

[[{'label': '1 star', 'score': 0.011834262870252132},
  {'label': '2 stars', 'score': 0.05826163291931152},
  {'label': '3 stars', 'score': 0.5082424879074097},
  {'label': '4 stars', 'score': 0.32383590936660767},
  {'label': '5 stars', 'score': 0.09782570600509644}]]

model = 'Jiva/xlm-roberta-large-it-mnli'
classifier = pipeline("zero-shot-classification", model=model, device=device)
res= classifier(
    "Ho trovato abbastanza interessante questa lezione su Alan Turing",
    candidate_labels=["economia", "geografia", "politica", "sport", "storia", "tecnologia"]
)
pprint(res)

{'labels': ['tecnologia',
            'storia',
            'geografia',
            'politica',
            'economia',
            'sport'],
 'scores': [0.40379834175109863,
            0.23238512873649597,
            0.10381027311086655,
            0.09817719459533691,
            0.08147850632667542,
            0.0803506076335907],
 'sequence': 'Ho trovato abbastanza interessante questa lezione su Alan Turing'}

model = 'osiria/deberta-base-italian-uncased-ner'
ner = pipeline("ner", model=model, device=device, grouped_entities=True)
res = ner("Questa lezione è stata tenuta da Luca Mari per un corso master del Politecnico di Milano")
pprint(res)

Asking to truncate to max_length but no maximum length is provided and the model has no predefined maximum length. Default to no truncation.

[{'end': 42,
  'entity_group': 'PER',
  'score': np.float32(0.96193117),
  'start': 32,
  'word': 'Luca Mari'},
 {'end': 78,
  'entity_group': 'ORG',
  'score': np.float32(0.93260586),
  'start': 66,
  'word': 'Politecnico'},
 {'end': 88,
  'entity_group': 'LOC',
  'score': np.float32(0.91371405),
  'start': 81,
  'word': 'Milano'}]

model = 'Musixmatch/umberto-wikipedia-uncased-v1'
unmasker = pipeline("fill-mask", model=model, device=device)
res = unmasker(
    "In questa lezione stiamo discutendo di <mask> artificiale.",
    top_k=3
)
pprint(res)

Some weights of the model checkpoint at Musixmatch/umberto-wikipedia-uncased-v1 were not used when initializing CamembertForMaskedLM: ['roberta.pooler.dense.bias', 'roberta.pooler.dense.weight']
- This IS expected if you are initializing CamembertForMaskedLM from the checkpoint of a model trained on another task or with another architecture (e.g. initializing a BertForSequenceClassification model from a BertForPreTraining model).
- This IS NOT expected if you are initializing CamembertForMaskedLM from the checkpoint of a model that you expect to be exactly identical (initializing a BertForSequenceClassification model from a BertForSequenceClassification model).

[{'score': 0.7675500512123108,
  'sequence': 'n questa lezione stiamo discutendo di intelligenza artificiale.',
  'token': 12582,
  'token_str': 'intelligenza'},
 {'score': 0.043854448944330215,
  'sequence': 'n questa lezione stiamo discutendo di lingua artificiale.',
  'token': 1476,
  'token_str': 'lingua'},
 {'score': 0.010562906041741371,
  'sequence': 'n questa lezione stiamo discutendo di selezione artificiale.',
  'token': 7268,
  'token_str': 'selezione'}]

model = 'osiria/deberta-italian-question-answering'
question_answerer = pipeline("question-answering", model=model, device=device)
question_answerer(
    context="Stiamo tenendo questa lezione per un corso master del Politecnico di Milano",
    question="Per quale organizzazione si sta tenendo questa lezione?",
)

{'score': 0.9232677817344666,
 'start': 53,
 'end': 75,
 'answer': ' Politecnico di Milano'}

model = "microsoft/Phi-3.5-mini-instruct"
generator = pipeline("text-generation", model=model, device=device)
res = generator(
    "In questa lezione sull'intelligenza artificiale, stiamo trattando di",
    max_length=50,
    truncation=True
)
pprint(res)

Loading checkpoint shards:   0%|          | 0/2 [00:00<?, ?it/s]

You are not running the flash-attention implementation, expect numerical differences.

[{'generated_text': "In questa lezione sull'intelligenza artificiale, stiamo "
                    'trattando di un modello di apprendimento automatico '
                    'chiamato rete neurale. Una rete neurale è una struttura '
                    'computazionale ispir'}]

# https://huggingface.co/microsoft/Phi-3.5-mini-instruct (3.82B)
model = "microsoft/Phi-3.5-mini-instruct"
generator = pipeline("text-generation", model=model, device=device)
res = generator(
    [
        {
            "role": "system",
            "content": "Sei un esperto che risponde in italiano. e sempre in modo amichevole.",
        },
        {
            "role": "user",
            "content": """
                Fai una sintesi in due frasi del testo che segue?
                Il metodo scientifico ci ha insegnato a fare previsioni sulla base (1) di modelli dei fenomeni e (2) di dati: un modello ci dice che se il fenomeno è in una certa condizione, osserveremo certi effetti, e i dati ci dicono che siamo in una certa condizione; se tutto ciò è sufficientemente accurato, possiamo supporre che osserveremo proprio gli effetti predetti dal modello in base ai dati.
                Si tratta di una versione razionalizzata di ragionamenti che tutti noi, anche senza rendercene conto, attuiamo abitualmente: dall'idea, un modello appunto, che ci siamo fatti di come la nostra automobile si comporta quando freniamo e dai dati che otteniamo osservando intorno a noi mentre guidiamo, concludiamo se, quando e quanto intensamente dobbiamo schiacciare il freno.
                Ma in questo momento non abbiamo modelli affidabili di quello che sta succedendo a proposito dei sistemi cosiddetti di intelligenza artificiale generativa, e quindi questa strategia non è applicabile.
                Quando non abbiamo un modello a cui affidarci, a volte ricorriamo a una strategia di riserva: nel passato, in una certa condizione si sono prodotti certi effetti; se ora i dati ci dicono che siamo in una condizione simile, per analogia ipotizziamo che si produrranno effetti simili.
                Ragionando per analogia possiamo essere creativi, se troviamo nuove connessioni tra le entità a cui ci stiamo interessando, ma paradossalmente anche inerti di fronte ai cambiamenti, se ci ostiniamo a interpretare le novità alla luce di quello che già sappiamo.
                Ma anche questa strategia analogica non funziona oggi a proposito dei sistemi di intelligenza artificiale generativa: sia perché stiamo vivendo una condizione decisamente nuova, e quindi non sappiamo bene con cosa del passato confrontarla, sia perché le analogie sono valide quando i cambiamenti sono lineari, e invece i cambiamenti che stiamo vivendo in questi mesi sembrano proprio esponenziali.
                Insomma, se è spesso difficile fare previsioni affidabili senza modelli e dati affidabili, nella situazione in cui siamo potremmo ammettere onestamente che le nostre previsioni non hanno davvero nulla di affidabile.
            """
        }
    ],
    max_new_tokens=128
)
pprint(res)

Loading checkpoint shards:   0%|          | 0/2 [00:00<?, ?it/s]

[{'generated_text': [{'content': 'Sei un esperto che risponde in italiano. e '
                                 'sempre in modo amichevole.',
                      'role': 'system'},
                     {'content': '\n'
                                 '                Fai una sintesi in due frasi '
                                 'del testo che segue?\n'
                                 '                Il metodo scientifico ci ha '
                                 'insegnato a fare previsioni sulla base (1) '
                                 'di modelli dei fenomeni e (2) di dati: un '
                                 'modello ci dice che se il fenomeno è in una '
                                 'certa condizione, osserveremo certi effetti, '
                                 'e i dati ci dicono che siamo in una certa '
                                 'condizione; se tutto ciò è sufficientemente '
                                 'accurato, possiamo supporre che osserveremo '
                                 'proprio gli effetti predetti dal modello in '
                                 'base ai dati.\n'
                                 '                Si tratta di una versione '
                                 'razionalizzata di ragionamenti che tutti '
                                 'noi, anche senza rendercene conto, attuiamo '
                                 "abitualmente: dall'idea, un modello appunto, "
                                 'che ci siamo fatti di come la nostra '
                                 'automobile si comporta quando freniamo e dai '
                                 'dati che otteniamo osservando intorno a noi '
                                 'mentre guidiamo, concludiamo se, quando e '
                                 'quanto intensamente dobbiamo schiacciare il '
                                 'freno.\n'
                                 '                Ma in questo momento non '
                                 'abbiamo modelli affidabili di quello che sta '
                                 'succedendo a proposito dei sistemi '
                                 'cosiddetti di intelligenza artificiale '
                                 'generativa, e quindi questa strategia non è '
                                 'applicabile.\n'
                                 '                Quando non abbiamo un '
                                 'modello a cui affidarci, a volte ricorriamo '
                                 'a una strategia di riserva: nel passato, in '
                                 'una certa condizione si sono prodotti certi '
                                 'effetti; se ora i dati ci dicono che siamo '
                                 'in una condizione simile, per analogia '
                                 'ipotizziamo che si produrranno effetti '
                                 'simili.\n'
                                 '                Ragionando per analogia '
                                 'possiamo essere creativi, se troviamo nuove '
                                 'connessioni tra le entità a cui ci stiamo '
                                 'interessando, ma paradossalmente anche '
                                 'inerti di fronte ai cambiamenti, se ci '
                                 'ostiniamo a interpretare le novità alla luce '
                                 'di quello che già sappiamo.\n'
                                 '                Ma anche questa strategia '
                                 'analogica non funziona oggi a proposito dei '
                                 'sistemi di intelligenza artificiale '
                                 'generativa: sia perché stiamo vivendo una '
                                 'condizione decisamente nuova, e quindi non '
                                 'sappiamo bene con cosa del passato '
                                 'confrontarla, sia perché le analogie sono '
                                 'valide quando i cambiamenti sono lineari, e '
                                 'invece i cambiamenti che stiamo vivendo in '
                                 'questi mesi sembrano proprio esponenziali.\n'
                                 '                Insomma, se è spesso '
                                 'difficile fare previsioni affidabili senza '
                                 'modelli e dati affidabili, nella situazione '
                                 'in cui siamo potremmo ammettere onestamente '
                                 'che le nostre previsioni non hanno davvero '
                                 'nulla di affidabile.\n'
                                 '            ',
                      'role': 'user'},
                     {'content': ' Il metodo scientifico basato su modelli e '
                                 'dati è inefficace per prevedere i sistemi di '
                                 'intelligenza artificiale generativa a causa '
                                 'della loro natura nuova e dei cambiamenti '
                                 'esponenziali. Senza modelli affidabili e '
                                 'dati affidabili, le nostre previsioni '
                                 'riguardo a questi sistemi sono prive di '
                                 'affidabilità.',
                      'role': 'assistant'}]}]

Qualche esempio di uso dei transformer¶

1. Sentiment analysis¶

2. Zero-shot-classification¶

3. Named Entity Recognition (NER)¶

4. Fill mask¶

5. Question answering¶

6. Text generation (completamento)¶

7. Text generation (Q&A)¶