{"id":206078,"date":"2025-06-23T06:30:00","date_gmt":"2025-06-23T05:30:00","guid":{"rendered":"https:\/\/datascientest.com\/de\/?p=206078"},"modified":"2025-06-26T16:44:45","modified_gmt":"2025-06-26T15:44:45","slug":"wie-funktioniert-das-gpt-modell","status":"publish","type":"post","link":"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell","title":{"rendered":"Das GPT-Modell: Wie generative KI wirklich funktioniert"},"content":{"rendered":"\t\t<div data-elementor-type=\"wp-post\" data-elementor-id=\"206078\" class=\"elementor elementor-206078\" data-elementor-post-type=\"post\">\n\t\t\t\t\t\t\t<div class=\"elementor-element elementor-element-98c9eb7 e-flex e-con-boxed e-con\" data-id=\"98c9eb7\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-cb5b2c8 elementor-widget elementor-widget-text-editor\" data-id=\"cb5b2c8\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-widget-text-editor.elementor-drop-cap-view-stacked .elementor-drop-cap{background-color:#69727d;color:#fff}.elementor-widget-text-editor.elementor-drop-cap-view-framed .elementor-drop-cap{color:#69727d;border:3px solid;background-color:transparent}.elementor-widget-text-editor:not(.elementor-drop-cap-view-default) .elementor-drop-cap{margin-top:8px}.elementor-widget-text-editor:not(.elementor-drop-cap-view-default) .elementor-drop-cap-letter{width:1em;height:1em}.elementor-widget-text-editor .elementor-drop-cap{float:left;text-align:center;line-height:1;font-size:50px}.elementor-widget-text-editor .elementor-drop-cap-letter{display:inline-block}<\/style>\t\t\t\t<p data-pm-slice=\"1 1 []\"><b>Was genau ist eigentlich ein GPT-Modell? Es handelt sich um die Technologie, die vielen modernen KI-Anwendungen zugrunde liegt \u2013 einschlie\u00dflich ChatGPT.<\/b><\/p><p data-pm-slice=\"1 1 []\">Hier geht es nicht um ChatGPT direkt \u2013 aber genau von dort kommt der Name.<\/p><p>Falls Du noch nie von GPT geh\u00f6rt hast, bist Du vermutlich trotzdem schon in Ber\u00fchrung damit gekommen: in Form von textgenerativer KI oder &#8222;LLM&#8220; (Large Language Model). GPT ist ein Typ solcher Modelle \u2013 und die Grundlage f\u00fcr fast alle Systeme, \u00fcber die gerade gesprochen wird.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-5890a01 elementor-widget elementor-widget-text-editor\" data-id=\"5890a01\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p data-pm-slice=\"1 1 []\">GPT steht f\u00fcr &#8222;<a style=\"background-color: #f8f7f3; color: #4628dd;\" href=\"https:\/\/datascientest.com\/de\/generierter-vorab-trainierter-transformer-gpt-was-ist-das\" target=\"_blank\" rel=\"noopener\">Generative Pre-trained Transformer<\/a>&#8220; \u2013 ein Name, der ziemlich genau beschreibt, wie das Ganze funktioniert.\u00a0<\/p><p data-pm-slice=\"1 1 []\">Klingt trocken? Keine Sorge, wir machen es anschaulich.<\/p><p><span style=\"font-weight: 400;\">Stell Dir GPT als einen Super-Experten f\u00fcr Wortvorhersagen vor. Sein Haupttalent besteht darin, zu erraten, welches Wort wohl am ehesten einen begonnenen Satz vervollst\u00e4ndigen w\u00fcrde. Indem er diese Vorhersage immer wieder macht, Wort f\u00fcr Wort, baut er ganze S\u00e4tze, Abs\u00e4tze und sogar ganze Artikel!<\/span><\/p><p><i><span style=\"font-weight: 400;\">GPT hat ein wenig bei der Erschaffung dieses Artikels geholfen, aber es gibt immer noch einen Menschen dahinter \u2026<\/span><\/i><\/p><p><span style=\"font-weight: 400;\">Lass uns gemeinsam die verschiedenen Arbeitsphasen der GPT-Modelle detailliert betrachten, um ihren Lernprozess \u00fcber die menschliche Sprache zu verstehen.<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-02c7a92 elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"02c7a92\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/de\/was-sind-wichtigsten-wettbewerber-von-chatgpt\" target=\"_blank\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">Auch interessant: ChatGPT und seine Konkurrenz<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-47a24e9 e-flex e-con-boxed e-con\" data-id=\"47a24e9\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-360ac8f elementor-widget elementor-widget-heading\" data-id=\"360ac8f\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-heading-title{padding:0;margin:0;line-height:1}.elementor-widget-heading .elementor-heading-title[class*=elementor-size-]>a{color:inherit;font-size:inherit;line-height:inherit}.elementor-widget-heading .elementor-heading-title.elementor-size-small{font-size:15px}.elementor-widget-heading .elementor-heading-title.elementor-size-medium{font-size:19px}.elementor-widget-heading .elementor-heading-title.elementor-size-large{font-size:29px}.elementor-widget-heading .elementor-heading-title.elementor-size-xl{font-size:39px}.elementor-widget-heading .elementor-heading-title.elementor-size-xxl{font-size:59px}<\/style><h2 class=\"elementor-heading-title elementor-size-default\"><font size=\"6\">Schritt 1: W\u00f6rter in Zahlen umwandeln<\/font><\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-115fc8c elementor-widget elementor-widget-text-editor\" data-id=\"115fc8c\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p data-start=\"194\" data-end=\"507\">F\u00fcr uns Menschen haben W\u00f6rter Bedeutung \u2013 sie wecken Bilder, Gef\u00fchle oder Assoziationen. Ein Computer hingegen sieht in Begriffen wie \u201eKatze\u201c oder \u201eHaus\u201c lediglich eine Folge von Zeichen. Damit ein GPT-Modell Sprache verarbeiten kann, muss es W\u00f6rter in eine f\u00fcr Maschinen verst\u00e4ndliche Form <b>\u00fcbersetzen: in Zahlen<\/b>.<\/p><p>\u00a0<\/p><p data-start=\"509\" data-end=\"822\">Genau das leisten sogenannte\u00a0<a style=\"background-color: #f8f7f3; color: #4628dd;\" href=\"https:\/\/datascientest.com\/de\/word-embedding\" target=\"_blank\" rel=\"noopener\">Embeddings<\/a>.\u00a0Sie geben jedem Wort (oder sogar jedem Wortteil) einen einzigartigen Zahlen-Code mit \u2013 einen sogenannten Vektor. Doch dieser Code ist mehr als nur eine Identifikationsnummer: Er speichert auch Informationen \u00fcber die Bedeutung und den Zusammenhang des Wortes mit anderen.<\/p><p><i>Stell Dir eine riesige Bibliothek vor. Jedes Buch darin \u2013 also jedes Wort \u2013 bekommt ein spezielles Etikett mit einem Barcode (der Embedding-Vektor). B\u00fccher, die thematisch verwandt sind, haben \u00e4hnliche Barcodes.\u00a0Zum Beispiel die Barcodes der Science-Fiction-B\u00fccher untereinander und auf der anderen Seite die der Kochb\u00fccher untereinander. Und, wenn es sich um Science-Fiction-B\u00fccher handelt, in denen au\u00dferdem Roboter mitspielen, w\u00e4ren ihre Barcodes noch \u00e4hnlicher!<\/i><\/p><p><span style=\"font-weight: 400;\">Je \u00e4hnlicher die Bedeutung zweier W\u00f6rter ist, desto \u201en\u00e4her\u201c ist ihre Liste von Zahlen (ihr <\/span>Embedding-Vektor<span style=\"font-weight: 400;\">) in einem imagin\u00e4ren Raum.\u00a0<\/span>Ein klassisches Beispiel: Die Embeddings von \u201eK\u00f6nig\u201c und \u201eK\u00f6nigin\u201c liegen nahe beieinander. Und der Unterschied zwischen \u201eK\u00f6nig\u201c und \u201eMann\u201c \u00e4hnelt dem zwischen \u201eK\u00f6nigin\u201c und \u201eFrau\u201c. Das zeigt, dass GPT nicht nur W\u00f6rter erkennt, sondern auch Beziehungen zwischen ihnen.<\/p><p>Wenn GPT einen Text verarbeitet, ist der erste Schritt, jedes Wort in seinen zugeh\u00f6rigen Embedding-Vektor zu \u00fcbersetzen. Nur so kann das Modell \u00fcberhaupt mit Sprache umgehen \u2013 indem es Bedeutung in Zahlen verwandelt.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-57692ee elementor-widget elementor-widget-image\" data-id=\"57692ee\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<style>\/*! elementor - v3.15.0 - 02-08-2023 *\/\n.elementor-widget-image{text-align:center}.elementor-widget-image a{display:inline-block}.elementor-widget-image a img[src$=\".svg\"]{width:48px}.elementor-widget-image img{vertical-align:middle;display:inline-block}<\/style>\t\t\t\t\t\t\t\t\t\t\t\t<img decoding=\"async\" width=\"1562\" height=\"702\" src=\"https:\/\/datascientest.com\/de\/files\/2025\/06\/KnowledgeGraphEmbedding.png\" class=\"attachment-full size-full wp-image-206081\" alt=\"\" srcset=\"https:\/\/datascientest.com\/de\/files\/2025\/06\/KnowledgeGraphEmbedding.png 1562w, https:\/\/datascientest.com\/de\/files\/2025\/06\/KnowledgeGraphEmbedding-300x135.png 300w, https:\/\/datascientest.com\/de\/files\/2025\/06\/KnowledgeGraphEmbedding-1024x460.png 1024w, https:\/\/datascientest.com\/de\/files\/2025\/06\/KnowledgeGraphEmbedding-768x345.png 768w, https:\/\/datascientest.com\/de\/files\/2025\/06\/KnowledgeGraphEmbedding-1536x690.png 1536w\" sizes=\"(max-width: 1562px) 100vw, 1562px\" \/>\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-e61569d e-flex e-con-boxed e-con\" data-id=\"e61569d\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-89197a6 elementor-widget elementor-widget-heading\" data-id=\"89197a6\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h2 class=\"elementor-heading-title elementor-size-default\"><font size=\"6\">Schritt 2: Die Wortreihenfolge verstehen (Positionale Kodierung)<\/font><\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-df51416 elementor-widget elementor-widget-text-editor\" data-id=\"df51416\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p data-start=\"217\" data-end=\"537\">Wir haben nun f\u00fcr jedes Wort eine Zahlenliste. Doch Sprache besteht nicht nur aus den W\u00f6rtern selbst, sondern auch aus ihrer Reihenfolge. \u201eDie Katze schl\u00e4ft\u201c ist etwas anderes als \u201eSchl\u00e4ft die Katze\u201c. Du erkennst sofort den Unterschied \u2013 f\u00fcr das GPT-Modell ist das jedoch nicht selbstverst\u00e4ndlich. Denn das Modell verarbeitet die W\u00f6rter parallel \u2013 also gleichzeitig \u2013, um schneller zu arbeiten. Dabei geht die Reihenfolge der W\u00f6rter verloren.<\/p><p>\u00a0<\/p><p data-start=\"750\" data-end=\"1057\">Um dieses Problem zu l\u00f6sen, bekommt jedes Wort eine zus\u00e4tzliche Information mit: einen<span style=\"font-weight: bold;\" data-start=\"837\" data-end=\"854\">Positionsmarker<\/span>. Auch dieser besteht aus einer Zahlenliste \u2013 man nennt sie<span data-start=\"914\" data-end=\"937\"><b>positionale Kodierung<\/b><\/span>. Sie wird mithilfe mathematischer Formeln berechnet und dr\u00fcckt aus, an welcher Stelle im Satz das jeweilige Wort steht.<\/p><p data-start=\"1059\" data-end=\"1149\"><i>Wir gehen hier nicht ins Detail \u2013 nur so viel: Diese Technik funktioniert erstaunlich gut!<\/i><\/p><p data-start=\"1151\" data-end=\"1429\">Die positionalen Kodierungen werden einfach zu den urspr\u00fcnglichen Embedding-Vektoren addiert \u2013 also zu den \u201eBarcodes\u201c, die die Wortbedeutung enthalten. So entsteht f\u00fcr jedes Wort ein kombinierter Vektor, der sowohl dessen Bedeutung als auch seine Position im Satz widerspiegelt.<\/p><p>\u00a0<\/p><p data-start=\"1431\" data-end=\"1631\">Das Ergebnis ist eine Liste von Vektoren, die den ganzen Satz abbildet \u2013 mit vollst\u00e4ndiger Information \u00fcber <em data-start=\"1539\" data-end=\"1544\">was<\/em> gesagt wird und <em data-start=\"1561\" data-end=\"1565\">wo<\/em> es im Satz steht. Damit kann GPT den Satz korrekt interpretieren.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-04f3f6a elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"04f3f6a\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/de\/gpt-mentions-personalisierte-gpts-definieren-die-codes-der-konversation-neu\" target=\"_blank\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">Auch interessant: Personalisierte GPTs<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-67779ad e-flex e-con-boxed e-con\" data-id=\"67779ad\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-f81042e elementor-widget elementor-widget-heading\" data-id=\"f81042e\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h2 class=\"elementor-heading-title elementor-size-default\"><font size=\"6\">Schritt 3: Der Transformer<\/font><\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-db5b5a8 elementor-widget elementor-widget-text-editor\" data-id=\"db5b5a8\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p data-start=\"212\" data-end=\"328\"><i>Keine Sorge \u2013 dieser Transformer hat nichts mit Optimus Prime zu tun.<\/i><\/p><p data-start=\"330\" data-end=\"571\">Der kl\u00fcgste Teil von GPT ist seine\u00a0<a style=\"background-color: #f8f7f3; color: #4628dd;\" href=\"https:\/\/datascientest.com\/de\/transformer-modelle-was-ist-das\" target=\"_blank\" rel=\"noopener\">Transformator-Architektur<\/a>. Du kannst sie Dir wie das Gehirn des Modells vorstellen: Sie analysiert die Zahlenlisten aus den vorherigen Schritten, um den Kontext zu erfassen und das n\u00e4chste Wort vorherzusagen.<\/p><p data-start=\"573\" data-end=\"757\">GPT verwendet eine vereinfachte Version des urspr\u00fcnglichen Transformers \u2013 genauer gesagt nur den <span data-start=\"670\" data-end=\"679\"><b>Decoder<\/b><\/span>. Warum? Weil GPT <b>Texte generiert<\/b> \u2013 und genau daf\u00fcr ist der Decoder zust\u00e4ndig.<\/p><p data-start=\"759\" data-end=\"912\">Dieser Transformer-Decoder besteht aus mehreren identischen \u201eBl\u00f6cken\u201c, die \u00fcbereinandergestapelt sind. Je mehr Bl\u00f6cke, desto leistungsf\u00e4higer das Modell.<\/p><p>\u00a0<\/p><p data-start=\"914\" data-end=\"999\">Jeder dieser Bl\u00f6cke verarbeitet die Embedding-Vektoren der W\u00f6rter in mehreren Phasen:<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-38102e3 elementor-widget elementor-widget-heading\" data-id=\"38102e3\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">1. Aufmerksamkeit - die geniale Idee hinter dem Transformer<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-58e2af7 elementor-widget elementor-widget-text-editor\" data-id=\"58e2af7\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p>Wenn Du einen Satz liest, achtest Du nicht auf jedes Wort gleich stark. Um den Sinn zu erfassen, legst Du den Fokus gezielt auf bestimmte W\u00f6rter. Zum Beispiel: In \u201eDer Student bei DataScientest, der gut gelernt hatte, hat seine Pr\u00fcfung bestanden\u201c konzentrierst Du Dich auf \u201eStudent\u201c und \u201ePr\u00fcfung\u201c, um das Wort \u201ebestand\u201c richtig einzuordnen.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-057322c elementor-widget elementor-widget-image\" data-id=\"057322c\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<img decoding=\"async\" width=\"850\" height=\"765\" src=\"https:\/\/datascientest.com\/de\/files\/2025\/06\/The-Transformer-model-architecture.png\" class=\"attachment-full size-full wp-image-206082\" alt=\"\" srcset=\"https:\/\/datascientest.com\/de\/files\/2025\/06\/The-Transformer-model-architecture.png 850w, https:\/\/datascientest.com\/de\/files\/2025\/06\/The-Transformer-model-architecture-300x270.png 300w, https:\/\/datascientest.com\/de\/files\/2025\/06\/The-Transformer-model-architecture-768x691.png 768w\" sizes=\"(max-width: 850px) 100vw, 850px\" \/>\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-b3a123d elementor-widget elementor-widget-text-editor\" data-id=\"b3a123d\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p data-start=\"1413\" data-end=\"1646\">Der<b><span data-start=\"1417\" data-end=\"1433\">Self-Attention<\/span>-Mechanismus <\/b>macht genau das: Das Modell schaut sich f\u00fcr jedes Wort alle vorherigen W\u00f6rter an und bewertet, welche besonders wichtig sind \u2013 um das aktuelle Wort zu verstehen und das n\u00e4chste sinnvoll vorherzusagen.<\/p><p>\u00a0<\/p><p data-start=\"1648\" data-end=\"1939\">Meistens nutzt der Transformer mehrere <b>Aufmerksamkeitsschichten<\/b> gleichzeitig. Das ist, als w\u00fcrden mehrere Personen denselben Satz lesen, wobei jede sich auf etwas anderes konzentriert: eine auf Grammatik, eine auf Bedeutung, eine auf Satzstruktur. Am Ende flie\u00dfen alle Perspektiven zusammen.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-50b239c elementor-widget elementor-widget-heading\" data-id=\"50b239c\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h3 class=\"elementor-heading-title elementor-size-default\">2. Die Reflexion - oder: Feed-Forward-Schicht<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-85bf2cc elementor-widget elementor-widget-text-editor\" data-id=\"85bf2cc\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p data-start=\"1993\" data-end=\"2143\">Nachdem das Modell durch Aufmerksamkeit erkannt hat, welche W\u00f6rter f\u00fcr den Kontext wichtig sind, verarbeitet es jedes Wort noch einmal einzeln weiter. Daf\u00fcr durchl\u00e4uft der Embedding-Vektor eines jeden Wortes mehrere Schichten mathematischer Funktionen. Diese bestehen aus Zahlenoperationen mit sogenannten <span data-start=\"2300\" data-end=\"2311\"><b>Gewichten<\/b><\/span> \u2013 das Ganze nennt man ein\u00a0<a style=\"background-color: #f8f7f3; color: #4628dd;\" href=\"https:\/\/datascientest.com\/de\/neuronale-netze-einfach-erklaert\" target=\"_blank\" rel=\"noopener\">neuronales Netz<\/a>.<\/p><p>\u00a0<\/p><p data-start=\"2356\" data-end=\"2513\">Diese Phase erm\u00f6glicht dem Modell, die durch Aufmerksamkeit gewonnenen Informationen noch tiefer zu analysieren und in abstraktere Bedeutungen zu \u00fcberf\u00fchren.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-6cf5177 elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"6cf5177\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/de\/chatgpt-jailbreak-was-ist-das\" target=\"_blank\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">Was ist ein ChatGPT Jailbreak?<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-a151ce1 e-flex e-con-boxed e-con\" data-id=\"a151ce1\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-ebede51 elementor-widget elementor-widget-heading\" data-id=\"ebede51\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h2 class=\"elementor-heading-title elementor-size-default\"><font size=\"6\">Schritt 4: Viele Schichten - viel Verstehen<\/font><\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-23f33cd elementor-widget elementor-widget-text-editor\" data-id=\"23f33cd\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p data-start=\"216\" data-end=\"439\">Die eigentliche St\u00e4rke von GPT liegt nicht darin,<span data-start=\"266\" data-end=\"271\">was<\/span> es tut \u2013 sondern<span data-start=\"289\" data-end=\"298\">wie oft<\/span>. Denn GPT besteht nicht nur aus einem Transformer-Block, sondern aus vielen: Dutzende, manchmal sogar Hunderte werden \u00fcbereinandergestapelt.<\/p><p data-start=\"441\" data-end=\"723\">Stell Dir das Modell wie eine mehrst\u00f6ckige Fabrik vor. Auf jeder Etage werden die Embedding-Vektoren durch <b>Aufmerksamkeit und Feed-Forward<\/b> weiterverarbeitet. Die Ergebnisse aus einer Schicht dienen dabei als Eingang f\u00fcr die n\u00e4chste \u2013 Etage f\u00fcr Etage wird die Information verfeinert.<\/p><p data-start=\"725\" data-end=\"863\">Die unteren Schichten erkennen einfache Zusammenh\u00e4nge zwischen W\u00f6rtern \u2013 zum Beispiel, dass \u201eKatze\u201c oft mit \u201eschnurren\u201c zusammen vorkommt.<\/p><p data-start=\"865\" data-end=\"1018\">Die mittleren Schichten kombinieren diese Informationen zu komplexeren Strukturen: Sie verstehen etwa, wie sich ein Nebensatz in einen Hauptsatz einf\u00fcgt.<\/p><p data-start=\"1020\" data-end=\"1151\">Die oberen Schichten erkennen schlie\u00dflich den Gesamtsinn, den Tonfall, den Stil \u2013 oder ob ein Satz vielleicht ironisch gemeint ist.<\/p><p data-start=\"177\" data-end=\"338\">\u00a0<\/p><p data-start=\"1153\" data-end=\"1315\">Je h\u00f6her wir hinaufsteigen, desto abstrakter wird das, was das Modell versteht \u2013 <i>und desto schwerer f\u00e4llt es uns Menschen, diese \u201eGedankeng\u00e4nge\u201c nachzuvollziehen.<\/i><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-5fb4412 elementor-widget elementor-widget-image\" data-id=\"5fb4412\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<img decoding=\"async\" width=\"2560\" height=\"1707\" src=\"https:\/\/datascientest.com\/de\/files\/2025\/06\/aerps-com-5e4Zlblkvks-unsplash-scaled-1.jpg\" class=\"attachment-full size-full wp-image-206083\" alt=\"\" srcset=\"https:\/\/datascientest.com\/de\/files\/2025\/06\/aerps-com-5e4Zlblkvks-unsplash-scaled-1.jpg 2560w, https:\/\/datascientest.com\/de\/files\/2025\/06\/aerps-com-5e4Zlblkvks-unsplash-scaled-1-300x200.jpg 300w, https:\/\/datascientest.com\/de\/files\/2025\/06\/aerps-com-5e4Zlblkvks-unsplash-scaled-1-1024x683.jpg 1024w, https:\/\/datascientest.com\/de\/files\/2025\/06\/aerps-com-5e4Zlblkvks-unsplash-scaled-1-768x512.jpg 768w, https:\/\/datascientest.com\/de\/files\/2025\/06\/aerps-com-5e4Zlblkvks-unsplash-scaled-1-1536x1024.jpg 1536w, https:\/\/datascientest.com\/de\/files\/2025\/06\/aerps-com-5e4Zlblkvks-unsplash-scaled-1-2048x1366.jpg 2048w\" sizes=\"(max-width: 2560px) 100vw, 2560px\" \/>\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-83fcb09 e-flex e-con-boxed e-con\" data-id=\"83fcb09\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-ade7df7 elementor-widget elementor-widget-heading\" data-id=\"ade7df7\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h2 class=\"elementor-heading-title elementor-size-default\"><font size=\"6\">Schritt 5: Das Training<\/font><\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-cee0c3c elementor-widget elementor-widget-text-editor\" data-id=\"cee0c3c\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p data-start=\"225\" data-end=\"387\">Stell Dir vor, wir geben dem Modell Milliarden von Texten: B\u00fccher, Artikel, Webseiten \u2026 Und in jedem Satz decken wir ein Wort ab und sagen: \u201eRate, welches fehlt!\u201c<\/p><p data-start=\"389\" data-end=\"428\">Das ist das Grundprinzip des <b>Trainings<\/b>.<\/p><p data-start=\"430\" data-end=\"688\">GPT versucht, das n\u00e4chste Wort auf Basis der bisherigen W\u00f6rter vorherzusagen. Am Anfang liegt es oft daneben \u2013 aber jedes Mal sagen wir: \u201eNein, das richtige Wort war <em data-start=\"596\" data-end=\"604\">dieses<\/em>.\u201c Dann passt das Modell seine internen Einstellungen (die sogenannten <b>Gewichte<\/b>) an.<\/p><p data-start=\"690\" data-end=\"800\">Diesen Lernprozess nennt man\u00a0<a style=\"background-color: #f8f7f3; color: #4628dd;\" href=\"https:\/\/datascientest.com\/de\/algorithmus-fuer-den-gradientenabstieg\" target=\"_blank\" rel=\"noopener\">Gradientenabstieg<\/a>: Bei jedem Fehler wird das Modell ein kleines St\u00fcck kl\u00fcger.<\/p><p data-start=\"802\" data-end=\"1014\">Indem GPT dieses Vorhersagespiel Milliardenfach wiederholt, lernt es nicht nur, welche W\u00f6rter h\u00e4ufig zusammengeh\u00f6ren \u2013 es entwickelt ein Gesp\u00fcr f\u00fcr Grammatik, Satzbau, Sprachstile und sogar f\u00fcr komplexe Konzepte. So wird aus reinem Raten nach und nach beeindruckende Sprachkompetenz.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-1481dce elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"1481dce\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/de\/unsere-aus-und-weiterbildungen\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">Weiterbildung um KI zu beherrschen<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-3fbf4a5 e-con-full e-flex e-con\" data-id=\"3fbf4a5\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;full&quot;}\">\n\t\t\t\t<div class=\"elementor-element elementor-element-25e9923 elementor-widget elementor-widget-heading\" data-id=\"25e9923\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h2 class=\"elementor-heading-title elementor-size-default\"><font size=\"6\">Letzter Schritt: Die Textgenerierung<\/font><\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-22bdec7 elementor-widget elementor-widget-text-editor\" data-id=\"22bdec7\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p>Sobald das GPT-Modell trainiert ist, kann es Texte generieren \u2013 und zwar basierend auf einer Eingabe, dem sogenannten <span data-start=\"265\" data-end=\"273\"><b>Prompt<\/b><\/span>.<\/p><ol><li data-start=\"276\" data-end=\"625\">Das Modell nimmt Deinen Prompt, wandelt die W\u00f6rter in Zahlen (Embeddings) um und schickt sie durch alle seine Transformer-Bl\u00f6cke.\u00a0<\/li><li data-start=\"276\" data-end=\"625\">Es gibt eine Liste von Wahrscheinlichkeiten f\u00fcr <b>jedes m\u00f6gliche n\u00e4chste Wort <\/b>aus. Zum Beispiel: Nach \u201eEs war einmal\u2026\u201c k\u00f6nnte \u201eein\u201c mit 80\u202f% Wahrscheinlichkeit folgen, \u201eeine\u201c mit 10\u202f%, \u201eder\u201c mit 5\u202f% und so weiter.<\/li><li data-start=\"627\" data-end=\"839\">GPT w\u00e4hlt nun ein Wort aus dieser Liste. Dabei nimmt es nicht immer das wahrscheinlichste \u2013 sonst w\u00fcrden die Texte schnell eint\u00f6nig wirken. Stattdessen w\u00e4hlt es zuf\u00e4llig aus den wahrscheinlichsten Kandidaten aus.<\/li><li data-start=\"841\" data-end=\"1008\">Das gew\u00e4hlte Wort wird an den Text angeh\u00e4ngt, z.\u202fB.: \u201eEs war einmal ein\u201c. Diese neue Sequenz wird erneut durch das Modell geschickt, um das n\u00e4chste Wort vorherzusagen.<\/li><\/ol><p data-start=\"1010\" data-end=\"1134\">Und so geht es weiter \u2013 Wort f\u00fcr Wort \u2013, bis ein spezielles Endsignal erzeugt wird oder die maximale Textl\u00e4nge erreicht ist.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-19b986d elementor-widget elementor-widget-image\" data-id=\"19b986d\" data-element_type=\"widget\" data-widget_type=\"image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<img decoding=\"async\" width=\"2560\" height=\"1922\" src=\"https:\/\/datascientest.com\/de\/files\/2025\/06\/shantanu-kumar-xvdkNBaja90-unsplash-1-scaled-1.jpg\" class=\"attachment-full size-full wp-image-206084\" alt=\"\" srcset=\"https:\/\/datascientest.com\/de\/files\/2025\/06\/shantanu-kumar-xvdkNBaja90-unsplash-1-scaled-1.jpg 2560w, https:\/\/datascientest.com\/de\/files\/2025\/06\/shantanu-kumar-xvdkNBaja90-unsplash-1-scaled-1-300x225.jpg 300w, https:\/\/datascientest.com\/de\/files\/2025\/06\/shantanu-kumar-xvdkNBaja90-unsplash-1-scaled-1-1024x769.jpg 1024w, https:\/\/datascientest.com\/de\/files\/2025\/06\/shantanu-kumar-xvdkNBaja90-unsplash-1-scaled-1-768x577.jpg 768w, https:\/\/datascientest.com\/de\/files\/2025\/06\/shantanu-kumar-xvdkNBaja90-unsplash-1-scaled-1-1536x1153.jpg 1536w, https:\/\/datascientest.com\/de\/files\/2025\/06\/shantanu-kumar-xvdkNBaja90-unsplash-1-scaled-1-2048x1538.jpg 2048w\" sizes=\"(max-width: 2560px) 100vw, 2560px\" \/>\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-ad05295 e-flex e-con-boxed e-con\" data-id=\"ad05295\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-672a53a elementor-widget elementor-widget-heading\" data-id=\"672a53a\" data-element_type=\"widget\" data-widget_type=\"heading.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<h2 class=\"elementor-heading-title elementor-size-default\"><font size=\"6\">Fazit: Kein Denken, aber beeindruckende Vorhersagekraft<\/font><\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-e167665 elementor-widget elementor-widget-text-editor\" data-id=\"e167665\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p data-start=\"208\" data-end=\"279\">Die St\u00e4rke von GPT liegt in der Kombination mehrerer Schl\u00fcsselelemente:<\/p><ul data-start=\"281\" data-end=\"804\">\n<li data-start=\"281\" data-end=\"428\">\n<p data-start=\"283\" data-end=\"428\"><span data-start=\"283\" data-end=\"314\">Der<\/span><strong data-start=\"283\" data-end=\"314\"> Transformer-Architektur<\/strong> mit ihrem <b>Aufmerksamkeitsmechanismus<\/b>, die es dem Modell erlaubt, auch in langen Texten den Kontext zu erfassen.<\/p>\n<\/li>\n<li data-start=\"429\" data-end=\"564\">\n<p data-start=\"431\" data-end=\"564\"><span data-start=\"431\" data-end=\"468\">Der <\/span><strong data-start=\"431\" data-end=\"468\">gestapelten Schichtenstruktur<\/strong>, die zunehmend komplexere Sprachmuster erlernt \u2013 von Wortbeziehungen bis hin zu Stil und Ton.<\/p>\n<\/li>\n<li data-start=\"565\" data-end=\"692\">\n<p data-start=\"567\" data-end=\"692\"><span data-start=\"567\" data-end=\"597\">Dem<\/span><strong data-start=\"567\" data-end=\"597\"> umfangreichen Training<\/strong> auf riesigen Textmengen, das GPT ein breites Sprachverst\u00e4ndnis und viel Weltwissen verleiht.<\/p>\n<\/li>\n<li data-start=\"693\" data-end=\"804\">\n<p data-start=\"695\" data-end=\"804\"><span data-start=\"695\" data-end=\"734\">Dem<\/span><strong data-start=\"695\" data-end=\"734\"> Wort-f\u00fcr-Wort-Vorhersageprinzip<\/strong>, das nat\u00fcrliche, fl\u00fcssige und \u00fcberraschend kreative Texte erm\u00f6glicht.<\/p>\n<\/li>\n<\/ul><p data-start=\"806\" data-end=\"990\">GPT \u201edenkt\u201c nicht wie ein Mensch. Aber es ist extrem gut darin, <b>komplexe statistische Muster in der Sprache zu erkennen<\/b> \u2013 und so sehr \u00fcberzeugend vorherzusagen, was als N\u00e4chstes kommt.<\/p><p data-start=\"992\" data-end=\"1083\">Das Ergebnis? Texte, die f\u00fcr uns intelligent, relevant und manchmal sogar originell wirken.<\/p><ul>\n<\/ul>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-bccc047 elementor-widget elementor-widget-text-editor\" data-id=\"bccc047\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<p>Wenn Dich das Thema fasziniert: <strong data-start=\"1122\" data-end=\"1139\">DataScientest<\/strong> bietet praxisnahe Weiterbildungen an, die ideal sind, um noch tiefer in die Funktionsweise von Modellen wie GPT einzusteigen.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-c9ef312 elementor-align-center button-principale elementor-widget elementor-widget-button\" data-id=\"c9ef312\" data-element_type=\"widget\" data-widget_type=\"button.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t<div class=\"elementor-button-wrapper\">\n\t\t\t<a class=\"elementor-button elementor-button-link elementor-size-sm elementor-animation-grow\" href=\"https:\/\/datascientest.com\/de\/unsere-aus-und-weiterbildungen\" target=\"_blank\">\n\t\t\t\t\t\t<span class=\"elementor-button-content-wrapper\">\n\t\t\t\t\t\t<span class=\"elementor-button-text\">Zu unseren Weiterbildungen<\/span>\n\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<div class=\"elementor-element elementor-element-6c3e5cc e-flex e-con-boxed e-con\" data-id=\"6c3e5cc\" data-element_type=\"container\" data-settings=\"{&quot;content_width&quot;:&quot;boxed&quot;}\">\n\t\t\t\t\t<div class=\"e-con-inner\">\n\t\t\t\t<div class=\"elementor-element elementor-element-ce1b0b0 elementor-widget elementor-widget-html\" data-id=\"ce1b0b0\" data-element_type=\"widget\" data-widget_type=\"html.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t<script type=\"application\/ld+json\">\r\n{\r\n  \"@context\": \"https:\/\/schema.org\",\r\n  \"@type\": \"FAQPage\",\r\n  \"mainEntity\": [\r\n    {\r\n      \"@type\": \"Question\",\r\n      \"name\": \"Wie funktioniert das GPT-Modell? F\u00fcr die breite \u00d6ffentlichkeit zug\u00e4nglich.\",\r\n      \"acceptedAnswer\": {\r\n        \"@type\": \"Answer\",\r\n        \"text\": \"GPT ist ein Typ von LLM, das als Expertenmodell f\u00fcr Wortvorhersagen funktioniert und in der Lage ist, Text Wort f\u00fcr Wort zu erzeugen.\"\r\n      }\r\n    },\r\n    {\r\n      \"@type\": \"Question\",\r\n      \"name\": \"Schritt 1: W\u00f6rter in Zahlen umwandeln\",\r\n      \"acceptedAnswer\": {\r\n        \"@type\": \"Answer\",\r\n        \"text\": \"W\u00f6rter werden in Zahlenlisten umgewandelt, sogenannte Embeddings, die Bedeutung und semantische N\u00e4he kodieren.\"\r\n      }\r\n    },\r\n    {\r\n      \"@type\": \"Question\",\r\n      \"name\": \"Schritt 2: Die Wortreihenfolge (Positionale Kodierung)\",\r\n      \"acceptedAnswer\": {\r\n        \"@type\": \"Answer\",\r\n        \"text\": \"Jedes Wort erh\u00e4lt zus\u00e4tzlich eine Positionskodierung, um die Reihenfolge im Satz zu ber\u00fccksichtigen.\"\r\n      }\r\n    },\r\n    {\r\n      \"@type\": \"Question\",\r\n      \"name\": \"Schritt 3: Der Transformer\",\r\n      \"acceptedAnswer\": {\r\n        \"@type\": \"Answer\",\r\n        \"text\": \"Der Transformer analysiert die Embedding-Vektoren, um Kontext zu erfassen und das n\u00e4chste Wort vorherzusagen, mithilfe von Aufmerksamkeit und neuronalen Netzwerken.\"\r\n      }\r\n    },\r\n    {\r\n      \"@type\": \"Question\",\r\n      \"name\": \"Schritt 4: Wir nehmen dieselben und fangen von vorne an!\",\r\n      \"acceptedAnswer\": {\r\n        \"@type\": \"Answer\",\r\n        \"text\": \"Mehrere Transformer-Bl\u00f6cke verarbeiten die Informationen schrittweise, von einfachen bis zu komplexen Beziehungen im Text.\"\r\n      }\r\n    },\r\n    {\r\n      \"@type\": \"Question\",\r\n      \"name\": \"Schritt 5: Das Training\",\r\n      \"acceptedAnswer\": {\r\n        \"@type\": \"Answer\",\r\n        \"text\": \"Das Modell lernt durch das Vorhersagen des n\u00e4chsten Wortes in Milliarden von Texten und passt seine Parameter bei jedem Fehler an.\"\r\n      }\r\n    },\r\n    {\r\n      \"@type\": \"Question\",\r\n      \"name\": \"Letzter Schritt: Die Textgenerierung\",\r\n      \"acceptedAnswer\": {\r\n        \"@type\": \"Answer\",\r\n        \"text\": \"Das Modell generiert Text Wort f\u00fcr Wort, basierend auf Wahrscheinlichkeiten und dem eingegebenen Prompt.\"\r\n      }\r\n    }\r\n  ]\r\n}\r\n<\/script>\r\n\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t","protected":false},"excerpt":{"rendered":"<p>Was genau ist eigentlich ein GPT-Modell? Es handelt sich um die Technologie, die vielen modernen KI-Anwendungen zugrunde liegt \u2013 einschlie\u00dflich ChatGPT. Hier geht es nicht um ChatGPT direkt \u2013 aber genau von dort kommt der Name. Falls Du noch nie von GPT geh\u00f6rt hast, bist Du vermutlich trotzdem schon in Ber\u00fchrung damit gekommen: in Form [&hellip;]<\/p>\n","protected":false},"author":45,"featured_media":206080,"comment_status":"open","ping_status":"open","sticky":false,"template":"elementor_theme","format":"standard","meta":{"content-type":"","inline_featured_image":false},"categories":[2464],"tags":[],"yoast_head":"<!-- This site is optimized with the Yoast SEO Premium plugin v21.7 (Yoast SEO v21.7) - https:\/\/yoast.com\/wordpress\/plugins\/seo\/ -->\n<title>Das GPT-Modell: Wie generative KI wirklich funktioniert<\/title>\n<meta name=\"description\" content=\"GPT verst\u00e4ndlich erkl\u00e4rt: So verwandelt KI W\u00f6rter in Zahlen und erstellt fl\u00fcssige Texte mit beeindruckender Pr\u00e4zision\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Das GPT-Modell: Wie generative KI wirklich funktioniert\" \/>\n<meta property=\"og:description\" content=\"Was genau ist eigentlich ein GPT-Modell? Es handelt sich um die Technologie, die vielen modernen KI-Anwendungen zugrunde liegt \u2013 einschlie\u00dflich ChatGPT.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell\" \/>\n<meta property=\"og:site_name\" content=\"DataScientest\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/DataScientestEN\" \/>\n<meta property=\"article:published_time\" content=\"2025-06-23T05:30:00+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2025-06-26T15:44:45+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/datascientest.com\/de\/files\/2025\/06\/fonctionnement-GPT-datascientest.webp\" \/>\n\t<meta property=\"og:image:width\" content=\"1536\" \/>\n\t<meta property=\"og:image:height\" content=\"974\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/webp\" \/>\n<meta name=\"author\" content=\"Daniel\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@DataScientest__\" \/>\n<meta name=\"twitter:site\" content=\"@DataScientest__\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Daniel\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"10\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell#article\",\"isPartOf\":{\"@id\":\"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell\"},\"author\":{\"name\":\"Daniel\",\"@id\":\"https:\/\/datascientest.com\/de\/#\/schema\/person\/5a86e30c5090234fb43dd8baa83c44b0\"},\"headline\":\"Das GPT-Modell: Wie generative KI wirklich funktioniert\",\"datePublished\":\"2025-06-23T05:30:00+00:00\",\"dateModified\":\"2025-06-26T15:44:45+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell\"},\"wordCount\":1660,\"commentCount\":0,\"publisher\":{\"@id\":\"https:\/\/datascientest.com\/de\/#organization\"},\"articleSection\":[\"K\u00fcnstliche Intelligenz\"],\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell#respond\"]}],\"copyrightYear\":\"2025\",\"copyrightHolder\":{\"@id\":\"https:\/\/datascientest.com\/#organization\"}},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell\",\"url\":\"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell\",\"name\":\"Das GPT-Modell: Wie generative KI wirklich funktioniert\",\"isPartOf\":{\"@id\":\"https:\/\/datascientest.com\/de\/#website\"},\"datePublished\":\"2025-06-23T05:30:00+00:00\",\"dateModified\":\"2025-06-26T15:44:45+00:00\",\"description\":\"GPT verst\u00e4ndlich erkl\u00e4rt: So verwandelt KI W\u00f6rter in Zahlen und erstellt fl\u00fcssige Texte mit beeindruckender Pr\u00e4zision\",\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell\"]}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/datascientest.com\/de\/#website\",\"url\":\"https:\/\/datascientest.com\/de\/\",\"name\":\"DataScientest\",\"description\":\"F\u00fchrender Anbieter von Schulungen im Bereich Data Science\",\"publisher\":{\"@id\":\"https:\/\/datascientest.com\/de\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/datascientest.com\/de\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/datascientest.com\/de\/#organization\",\"name\":\"DataScientest\",\"url\":\"https:\/\/datascientest.com\/de\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\/\/datascientest.com\/de\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/datascientest.com\/de\/files\/2024\/02\/DataScientest_icon_blue-2.png\",\"contentUrl\":\"https:\/\/datascientest.com\/de\/files\/2024\/02\/DataScientest_icon_blue-2.png\",\"width\":301,\"height\":301,\"caption\":\"DataScientest\"},\"image\":{\"@id\":\"https:\/\/datascientest.com\/de\/#\/schema\/logo\/image\/\"},\"sameAs\":[\"https:\/\/www.facebook.com\/DataScientestEN\",\"https:\/\/twitter.com\/DataScientest__\",\"https:\/\/www.linkedin.com\/company\/datascientest-germany\/\",\"https:\/\/www.tiktok.com\/@datascientest\"]},{\"@type\":\"Person\",\"@id\":\"https:\/\/datascientest.com\/de\/#\/schema\/person\/5a86e30c5090234fb43dd8baa83c44b0\",\"name\":\"Daniel\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\/\/datascientest.com\/de\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/837acad4f2dc47e85d81cce837261670?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/837acad4f2dc47e85d81cce837261670?s=96&d=mm&r=g\",\"caption\":\"Daniel\"},\"sameAs\":[\"https:\/\/www.linkedin.com\/school\/datascientest\/\",\"user\"],\"jobTitle\":\"ing\u00e9nieur logiciel\",\"worksFor\":\"DataScientest\",\"url\":\"https:\/\/datascientest.com\/de\/author\/team-redac\"}]}<\/script>\n<!-- \/ Yoast SEO Premium plugin. -->","yoast_head_json":{"title":"Das GPT-Modell: Wie generative KI wirklich funktioniert","description":"GPT verst\u00e4ndlich erkl\u00e4rt: So verwandelt KI W\u00f6rter in Zahlen und erstellt fl\u00fcssige Texte mit beeindruckender Pr\u00e4zision","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell","og_locale":"de_DE","og_type":"article","og_title":"Das GPT-Modell: Wie generative KI wirklich funktioniert","og_description":"Was genau ist eigentlich ein GPT-Modell? Es handelt sich um die Technologie, die vielen modernen KI-Anwendungen zugrunde liegt \u2013 einschlie\u00dflich ChatGPT.","og_url":"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell","og_site_name":"DataScientest","article_publisher":"https:\/\/www.facebook.com\/DataScientestEN","article_published_time":"2025-06-23T05:30:00+00:00","article_modified_time":"2025-06-26T15:44:45+00:00","og_image":[{"width":1536,"height":974,"url":"https:\/\/datascientest.com\/de\/files\/2025\/06\/fonctionnement-GPT-datascientest.webp","type":"image\/webp"}],"author":"Daniel","twitter_card":"summary_large_image","twitter_creator":"@DataScientest__","twitter_site":"@DataScientest__","twitter_misc":{"Verfasst von":"Daniel","Gesch\u00e4tzte Lesezeit":"10\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell#article","isPartOf":{"@id":"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell"},"author":{"name":"Daniel","@id":"https:\/\/datascientest.com\/de\/#\/schema\/person\/5a86e30c5090234fb43dd8baa83c44b0"},"headline":"Das GPT-Modell: Wie generative KI wirklich funktioniert","datePublished":"2025-06-23T05:30:00+00:00","dateModified":"2025-06-26T15:44:45+00:00","mainEntityOfPage":{"@id":"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell"},"wordCount":1660,"commentCount":0,"publisher":{"@id":"https:\/\/datascientest.com\/de\/#organization"},"articleSection":["K\u00fcnstliche Intelligenz"],"inLanguage":"de","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell#respond"]}],"copyrightYear":"2025","copyrightHolder":{"@id":"https:\/\/datascientest.com\/#organization"}},{"@type":"WebPage","@id":"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell","url":"https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell","name":"Das GPT-Modell: Wie generative KI wirklich funktioniert","isPartOf":{"@id":"https:\/\/datascientest.com\/de\/#website"},"datePublished":"2025-06-23T05:30:00+00:00","dateModified":"2025-06-26T15:44:45+00:00","description":"GPT verst\u00e4ndlich erkl\u00e4rt: So verwandelt KI W\u00f6rter in Zahlen und erstellt fl\u00fcssige Texte mit beeindruckender Pr\u00e4zision","inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/datascientest.com\/de\/wie-funktioniert-das-gpt-modell"]}]},{"@type":"WebSite","@id":"https:\/\/datascientest.com\/de\/#website","url":"https:\/\/datascientest.com\/de\/","name":"DataScientest","description":"F\u00fchrender Anbieter von Schulungen im Bereich Data Science","publisher":{"@id":"https:\/\/datascientest.com\/de\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/datascientest.com\/de\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/datascientest.com\/de\/#organization","name":"DataScientest","url":"https:\/\/datascientest.com\/de\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/datascientest.com\/de\/#\/schema\/logo\/image\/","url":"https:\/\/datascientest.com\/de\/files\/2024\/02\/DataScientest_icon_blue-2.png","contentUrl":"https:\/\/datascientest.com\/de\/files\/2024\/02\/DataScientest_icon_blue-2.png","width":301,"height":301,"caption":"DataScientest"},"image":{"@id":"https:\/\/datascientest.com\/de\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/DataScientestEN","https:\/\/twitter.com\/DataScientest__","https:\/\/www.linkedin.com\/company\/datascientest-germany\/","https:\/\/www.tiktok.com\/@datascientest"]},{"@type":"Person","@id":"https:\/\/datascientest.com\/de\/#\/schema\/person\/5a86e30c5090234fb43dd8baa83c44b0","name":"Daniel","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/datascientest.com\/de\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/837acad4f2dc47e85d81cce837261670?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/837acad4f2dc47e85d81cce837261670?s=96&d=mm&r=g","caption":"Daniel"},"sameAs":["https:\/\/www.linkedin.com\/school\/datascientest\/","user"],"jobTitle":"ing\u00e9nieur logiciel","worksFor":"DataScientest","url":"https:\/\/datascientest.com\/de\/author\/team-redac"}]}},"_links":{"self":[{"href":"https:\/\/datascientest.com\/de\/wp-json\/wp\/v2\/posts\/206078"}],"collection":[{"href":"https:\/\/datascientest.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/datascientest.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/datascientest.com\/de\/wp-json\/wp\/v2\/users\/45"}],"replies":[{"embeddable":true,"href":"https:\/\/datascientest.com\/de\/wp-json\/wp\/v2\/comments?post=206078"}],"version-history":[{"count":31,"href":"https:\/\/datascientest.com\/de\/wp-json\/wp\/v2\/posts\/206078\/revisions"}],"predecessor-version":[{"id":206277,"href":"https:\/\/datascientest.com\/de\/wp-json\/wp\/v2\/posts\/206078\/revisions\/206277"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/datascientest.com\/de\/wp-json\/wp\/v2\/media\/206080"}],"wp:attachment":[{"href":"https:\/\/datascientest.com\/de\/wp-json\/wp\/v2\/media?parent=206078"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/datascientest.com\/de\/wp-json\/wp\/v2\/categories?post=206078"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/datascientest.com\/de\/wp-json\/wp\/v2\/tags?post=206078"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}