Altro che Skynet piu' idiocracy 2.0
Colla sulla pizza, serpenti mammiferi e le altre allucinazioni dell'AI di Google Search
Lo sapevate che i serpenti sono mammiferi? E che se un gatto vi lecca la mano sta valutando se siete buoni da mangiare? E che se vi fate in casa la pizza e il formaggio non aderisce bene alla base potete semplicemente aggiungerci un po’ di colla - a patto che non sia tossica? No? Potete ringraziare la nuova intelligenza artificiale di Google integrata nel suo motore di ricerca per questa infusione di nuova saggezza!
Nel corso della conferenza I/O 2024, Google ha annunciato l’arrivo di AI Overviews, inizialmente solo negli Stati Uniti, come il primo passo dell’integrazione dell’intelligenza artificiale nel suo servizio in assoluto più diffuso e popolare, il motore di ricerca. E non ci è voluto davvero molto perché iniziassero le prime segnalazioni di “allucinazioni” come quelle che vi abbiamo riportato nel primo paragrafo.
Tra le altre ragguardevoli: Batman è un poliziotto, perché lavora con il Commissario Gordon; l’ex presidente USA James Madison si è laureato 21 volte; e un cane ha giocato professionalmente a basket (NBA), a hockey (NHL) e football (NFL). In alcuni casi, come quello della colla sulla pizza, si è addirittura riusciti a risalire alla fonte dell’informazione (o, meglio, della disinformazione): un commento pubblicato su Reddit 10 anni fa, scritto palesemente in modo ironico o comunque per ridere.
Non è certo la prima volta che salta fuori che l’intelligenza artificiale generativa prende delle cantonate colossali, o che si inventa informazioni di sana pianta spacciandole per vere. Perfino durante la dimostrazione di AI Overviews durante l’I/O il software ha restituito una risposta quantomeno discutibile - ha suggerito di aprire lo sportello del rullino per cercare di sistemare una fotocamera inceppata, senza quantomeno menzionare che è un’operazione che andrebbe fatta al buio completo, altrimenti le foto scattate verrebbero irrimediabilmente danneggiate.
Google stessa dice chiaramente che AI Overviews è un prodotto sperimentale (si potrebbe fare di meglio, però: l'indicazione arriva solo quando si espande il risultato, e non viene mai detto espressamente che l'informazione potrebbe essere falsa, imprecisa o fuorviante. Bisogna scavare più a fondo prima di imbattersi in un avviso che "la qualità delle risposte potrebbe variare"); ma al tempo stesso è comprensibile che questa “imprecisione”, se vogliamo chiamarla così, desti sempre più preoccupazione man mano che l’AI si diffonde e si integra in prodotti e servizi mainstream. E non c’è bisogno di tirare in ballo il fatto che la falla logica dell’AI sia il pretesto di base della maggior parte dei film apocalittici sull’argomento, stile Terminator.
Google Search ha raggiunto le dimensioni che ha raggiunto anche per la sua attendibilità, e non è necessariamente detto che applicare un’etichetta che dice sostanzialmente “occhio, potremmo sbagliarci” sia una sufficiente a preservarne la reputazione. Certo, lo stesso vale per ChatGPT e gli altri chatbot analoghi della concorrenza - anche Bard stesso, ma lì i paletti sono più chiari e immediati, perché si tratta di prodotti completamente nuovi interamente basati su una tecnologia sperimentale. È implicito che qualche problema possa saltare fuori, di tanto in tanto. Qui si parla del motore di ricerca più diffuso al mondo, uno strumento di cui le persone hanno imparato a fidarsi, nel corso degli anni.
Parlando con The Verge, un portavoce di Google osserva che le inesattezze emergono solo in caso di richieste molto insolite, e non rappresentano l’esperienza d’uso della maggior parte degli utenti; ma nel mondo vengono fatte 8,5 miliardi di ricerche su Google ogni giorno, quindi è logico assumere che anche “molto insolite” avvenga a livelli assoluti piuttosto spesso. E questi errori fanno notizia per via della definizione stessa di notizia.
Naturalmente sono in molti, Google e le società AI incluse, a essere ottimisti, e dicono che il progresso nel settore continuerà con lo stesso, vertiginoso ritmo che abbiamo osservato negli ultimi due anni. Ma l'esperienza ci insegna che, soprattutto nel mondo high-tech, molto spesso è una curva tutt'altro che lineare, e spesso il risultato che si immaginava non viene nemmeno "mai" raggiunto - almeno nel medio termine. Qualche esempio? Il 3D, le auto a guida autonoma, gli NFT, il grafene...
https://www.hdblog.it/google/articoli/n583889/google-search-ai-alluicnazioni-pizza-colla/
Visitatore