Un '''generative pre-trained transformer''' (o '''GPT''', in italiano '''trasformatore generativo pre-addestrato''') è un tipo di [[modello linguistico di grandi dimensioni]] (LLM)<ref name=":1">{{Cita web|lingua=en|url=https://www.aljazeera.com/news/2023/3/15/how-do-ai-models-like-gpt-4-work-and-how-can-you-start-using-it|titolo=How does GPT-4 work and how can you start using it in ChatGPT?|nome=Mohammed|cognome=Haddad|sito=www.aljazeera.com|accesso=10 aprile 2023|archive-date=5 luglio 2023|urlarchivio=https://web.archive.org/web/20230705224641/https://www.aljazeera.com/news/2023/3/15/how-do-ai-models-like-gpt-4-work-and-how-can-you-start-using-it|urlmorto=no}}</ref><ref name=":0">{{Cita web|lingua=en|url=https://www.weforum.org/agenda/2023/01/davos23-generative-ai-a-game-changer-industries-and-society-code-developers/|titolo=Generative AI: a game-changer society needs to be ready for|sito=World Economic Forum|data=9 gennaio 2023|accesso=April 8,2023|archive-date=April 25,aprile 2023|urlarchivio=https://web.archive.org/web/20230425234858/https://www.weforum.org/agenda/2023/01/davos23-generative-ai-a-game-changer-industries-and-society-code-developers/|urlmorto=no}}</ref><ref name=":4">{{Cita web|lingua=en|url=https://time.com/6271657/a-to-z-of-artificial-intelligence/|titolo=The A to Z of Artificial Intelligence|data=13 aprile 2023|magazineeditore=Time|accesso=April 14,2023|archive-date=June 16,aprile 2023|urlarchivio=https://web.archive.org/web/20230616123839/https://time.com/6271657/a-to-z-of-artificial-intelligence/|urlmorto=no}}</ref> e un importante framework per l’[[intelligenza artificiale generativa]].<ref>{{Cita web|lingua=en|url=https://pub.towardsai.net/generative-ai-and-future-c3b1695876f2|titolo=Generative AI and Future|nome=Luhui|cognome=Hu|data=15 novembre 2022|sito=Medium|accesso=29 aprile 2023|archive-date=5 giugno 2023|urlarchivio=https://web.archive.org/web/20230605023010/https://pub.towardsai.net/generative-ai-and-future-c3b1695876f2|urlmorto=no}}</ref><ref>{{Cita web|lingua=en|url=https://www.computer.org/csdl/magazine/co/2022/10/09903869/1H0G6xvtREk|titolo=CSDL | IEEE Computer Society|sito=www.computer.org|accesso=29 aprile 2023|archive-date=28 aprile 2023|urlarchivio=https://web.archive.org/web/20230428171218/https://www.computer.org/csdl/magazine/co/2022/10/09903869/1H0G6xvtREk|urlmorto=no}}</ref> Si tratta di una [[rete neurale artificiale]] usata per l’[[elaborazione del linguaggio naturale]] da parte delle macchine.<ref>{{Cita web|lingua=en|titolo= LibGuides: Using AI Language Models : ChatGPT|url= https://hallmark.libguides.com/c.php?g=1312147&p=9644939|accesso=7 dicembre 2023|archive-date= 8 dicembre 2023|urlarchivio= https://web.archive.org/web/20231208014633/https://hallmark.libguides.com/c.php?g=1312147&p=9644939|urlmorto=no}}</ref> È basata sull’[[Trasformatore (informatica)|architettura transformer]] del deep learning, pre-addestrata su grandi [[dataset]] di testi non etichettati e in grado di generare nuovi contenuti simili a quelli umani.<ref name=":0" /><ref name=":4" /> A partire dal 2023, la maggior parte dei LLM presentava queste caratteristiche<ref>{{Cita web|lingua=en|url=https://www.forbes.com/sites/robtoews/2023/02/07/the-next-generation-of-large-language-models/|titolo=The Next Generation Of Large Language Models|nome=Rob|cognome=Toews|sito=Forbes|accesso=9 aprile 2023|archive-date=14 aprile 2023|urlarchivio=https://web.archive.org/web/20230414030738/https://www.forbes.com/sites/robtoews/2023/02/07/the-next-generation-of-large-language-models/|urlmorto=no}}</ref> ed erano talvolta definiti in modo generico come GPT.<ref>{{Cita web|lingua=en|url=https://www.forbes.com/sites/joemckendrick/2023/03/26/most-jobs-soon-to-be-influenced-by-artificial-intelligence-research-out-of-openai-and-university-of-pennsylvania-suggests/?sh=420f9c8f73c7|titolo=Most Jobs Soon To Be 'Influenced' By Artificial Intelligence, Research Out Of OpenAI And University Of Pennsylvania Suggests|operaeditore=[[Forbes]]|nome=Joe|cognome=Mckendrick|data=13 marzo 2023|accesso=16 aprile 2023|archive-date=16 aprile 2023|urlarchivio=https://web.archive.org/web/20230416155511/https://www.forbes.com/sites/joemckendrick/2023/03/26/most-jobs-soon-to-be-influenced-by-artificial-intelligence-research-out-of-openai-and-university-of-pennsylvania-suggests/?sh=420f9c8f73c7|urlmorto=no}}</ref>
Il primo GPT è stato introdotto nel 2018 da [[OpenAI]].<ref name="gpt1">{{Cita web
