Jak działa ChatGPT - od promptu do odpowiedzi, bez informatyki

Wpisujesz pytanie i po dwóch sekundach czytasz gotową odpowiedź: płynną, pewną siebie, czasem z nazwą konkretnej firmy. Łatwo uznać, że po drugiej stronie pracuje wyszukiwarka, tylko bardziej rozmowna. To złudzenie. A dla właściciela firmy złudzenie kosztowne, bo prowadzi do złych decyzji o własnej widoczności.

W tym artykule przechodzę całą drogę od promptu, czyli pytania, które wpisujesz, do gotowej odpowiedzi. Bez informatyki i bez wzorów. Poszczególne etapy tej drogi opisałem już w osobnych artykułach: o Bingu, o trzech warstwach wiedzy ChatGPT, o mechanizmie RAG i o zmienności odpowiedzi. Ten artykuł spina je w jedną mapę, na której widać, gdzie jest miejsce na Twoją firmę.

Czym jest model językowy, a czym na pewno nie jest?

ChatGPT to model językowy: program, który nauczył się przewidywać, jakie słowo najlepiej pasuje jako następne. Znasz to z telefonu. Piszesz „do zobaczenia", a klawiatura podpowiada „jutro". Model językowy robi to samo, tylko w skali całych wypowiedzi: przewiduje słowo, dokleja je, patrzy na całość i przewiduje kolejne.

Skąd wie, co pasuje? Ze wzorców. Podczas treningu przeczytał ogromną ilość tekstu i nauczył się, jakie słowa, zdania i fakty zwykle występują obok siebie. Dlatego brzmi tak naturalnie: odtwarza wzorce języka, którym piszemy wszyscy.

Ważniejsze jest jednak to, czym model nie jest. Nie jest bazą wiedzy: nie ma w środku tabeli z firmami i ich opisami, z której odczytuje gotowe rekordy. Nie jest też wyszukiwarką: sam z siebie niczego nie sprawdza w internecie i nie zwraca listy stron. Gdy klient pyta o polecenie, model nie „wyszukuje" Twojej firmy. Układa najbardziej prawdopodobną odpowiedź na podstawie tego, co o Twojej branży przeczytał.

Jak ChatGPT się uczy i dlaczego jego wiedza jest zamrożona?

Trening wygląda z grubsza tak: model dostaje do przeczytania ogromną część publicznego internetu, książek i artykułów, a potem miliardy razy ćwiczy zgadywanie zasłoniętych słów. Z każdą próbą jego przewidywania robią się trafniejsze. Na końcu treningu ta wiedza zostaje w nim zapisana i już się nie zmienia.

Stąd pojęcie daty granicznej wiedzy, po angielsku „knowledge cutoff". Wszystko, co wydarzyło się po tej dacie, dla modelu nie istnieje, dopóki nie sięgnie do internetu albo nie powstanie jego nowsza wersja. Zmiana nazwy, nowa oferta, przeprowadzka: jeśli nastąpiły po dacie granicznej, model odpowiadający z pamięci dalej opisuje stary stan Twojej firmy.

Jak to wygląda w praktyce, rozbieram w artykule o tym, skąd ChatGPT bierze informacje o firmach. Pamięć z treningu to tylko jedna z trzech warstw jego wiedzy i akurat ta, której nie poprawisz punktowo.

Co się dzieje po wysłaniu promptu?

Między wysłaniem promptu a pierwszym słowem odpowiedzi dzieją się cztery rzeczy.

• Rozbiór pytania. Model rozkłada Twój prompt na drobne fragmenty i na podstawie wzorców ustala, o co pytasz, w jakim języku i w jakim kontekście toczy się rozmowa.
• Decyzja: pamięć czy internet. Na pytania o definicje i rzeczy ponadczasowe model zwykle odpowiada z pamięci treningowej. Pytania o ceny, bieżące wydarzenia albo o polecenie firmy częściej uruchamiają wyszukiwanie.
• Ewentualne wyszukiwanie. Gdy model decyduje się szukać, odpytuje indeks wyszukiwarki, w ChatGPT głównie indeks Bing, i wybiera kilka fragmentów stron jako materiał do odpowiedzi. Rolę Binga opisuję w artykule o tym, dlaczego Bing decyduje o widoczności w ChatGPT, a sam mechanizm doboru fragmentów, czyli RAG, rozkładam krok po kroku w osobnym tekście.
• Budowa odpowiedzi. Model bierze pytanie i ewentualne fragmenty z sieci, po czym przewiduje pierwsze słowo odpowiedzi. Potem drugie, patrząc na pierwsze. I tak aż do końca, słowo po słowie.

Dlatego odpowiedź „płynie" na ekranie, zamiast pojawić się w całości: oglądasz przewidywanie kolejnych słów na żywo. I dlatego odnośniki do źródeł są ważnym śladem. Pokazują, że model właśnie sięgnął do internetu, a nie do zamrożonej pamięci.

Dlaczego na to samo pytanie potrafi paść inna odpowiedź?

Zadaj ten sam prompt dwa razy, a listy polecanych firm mogą się różnić. To nie usterka. Przewidując następne słowo, model nie zawsze wybiera najbardziej prawdopodobne, tylko losuje spośród kilku dobrych kandydatów, więc każda odpowiedź może potoczyć się trochę inaczej. Do tego wyszukiwanie potrafi za każdym razem zwrócić inne strony.

Skalę tej huśtawki pokazuję na liczbach w artykule o tym, dlaczego ChatGPT daje różne odpowiedzi na to samo pytanie. Praktyczny wniosek jest jeden: pojedyncze sprawdzenie to obraz jednej chwili, nie diagnoza. Wnioski o widoczności firmy wyciąga się z serii pomiarów, nie z jednej rozmowy.

Co z tego wynika dla Twojej firmy?

Skoro model nie ma bazy wiedzy, to nie „zna" Twojej firmy. Zna teksty o niej. ChatGPT wie o Tobie dokładnie tyle, ile internet o Tobie pisze: Twoja strona, katalogi, rankingi, opinie oraz artykuły branżowe. Gdy tych treści jest mało, odpowiedzi robią się ogólnikowe albo model pomija firmę i wymienia lepiej opisaną konkurencję.

Na tę wiedzę da się jednak wpływać. Masz trzy dźwignie:

• Własna treść. Aktualne, konkretne opisy tego, co robisz, dla kogo i na jakich warunkach, ułożone tak, żeby wprost odpowiadały na pytania klientów. Z tych stron korzysta warstwa wyszukiwania.
• Cudze źródła. Rankingi, katalogi, porównania, opinie oraz wzmianki w mediach branżowych. Przy pytaniach o polecenie firmy model opiera się głównie na takich niezależnych głosach, nie na Twojej stronie.
• Dostęp botów. Roboty AI muszą mieć wstęp na Twoją stronę: sprawdź, czy robots.txt ich nie blokuje i czy strona jest w ogóle zaindeksowana. Zablokowany bot nie przeczyta nawet najlepszej treści.

Która dźwignia waży najwięcej i co dokładnie kontrolujesz, opisuję w artykule o trzech warstwach wiedzy ChatGPT. Jedno uczciwe zastrzeżenie: żadna z nich nie gwarantuje wzmianki, bo ostatnie słowo zawsze należy do modelu. Dają Ci one jednak realną szansę, że w odpowiedzi, którą czyta klient, padnie właśnie Twoja nazwa.

Sedno

Droga od promptu do odpowiedzi jest krótka: rozbiór pytania, decyzja o wyszukiwaniu, wybór źródeł i przewidywanie kolejnych słów. Twoja firma ma na tej drodze dwa punkty zaczepienia: pamięć modelu z treningu i treści, które wyszukiwanie znajdzie w sieci. Oba sprowadzają się do tego samego pytania: co i gdzie jest o Tobie napisane.

Czy to wystarcza, sprawdzisz tylko w jeden sposób: zadając silnikom AI pytania, które zadałby Twój klient, i notując, czy pada Twoja nazwa. Rób to regularnie i w kilku silnikach naraz, bo ChatGPT, Gemini, Perplexity, AI Overviews i AI Mode czerpią z różnych zapleczy i potrafią pokazać zupełnie inne wyniki. Ręcznie to godziny pracy co tydzień, więc część firm oddaje to narzędziu do monitoringu widoczności marki w AI. Niezależnie od metody kolejność jest ta sama: najpierw pomiar, potem poprawki.