Моделът довършва изречение, което човек е започнал, и уцелва точната дума. После довършва параграф, после писмо, после обяснение на сложна тема. Отвън изглежда, че някой разбира въпроса. Отвътре се случва нещо по-скромно: мрежа с милиарди параметри изчислява кое парче текст е най-вероятно да следва предишното. Няма търсене в база, няма проверка на факт, няма намерение. Има разпределение на вероятности, научено от огромно количество текст, и то е достатъчно добро, за да изглежда като мисъл. Затова е толкова лесно да се забрави, че зад изречението няма кой да провери.
Обучението започва с текст, нарязан на малки парчета, и със задача да се предскаже следващото. Всяко предположение се сравнява с истинското и разликата се използва, за да се коригират параметрите — милиарди малки корекции, повторени много пъти. От тази проста цел се появяват способности, които никой не е програмирал: превод, код, обобщение, следване на инструкции. Те не са добавени, а изникват, защото да предсказваш добре текст означава да си научил нещо за структурата на езика, аргумента и света, който той описва. Затова моделът е по-добър в стила, отколкото в истината.
Ето защо моделът е едновременно по-умен и по-глупав, отколкото изглежда. Той е много добър в преобразуването: съкрати, пренапиши, преведи, сравни, извлечи. Той е слаб в това, което изисква проверка извън текста: точна сметка, актуален факт, цитат от документ, който не е виждал. Когато не знае, той не мълчи — продължава най-вероятното, а най-вероятното звучи убедително, защото е научено от убедителни текстове. Това е и източникът на измислените препратки. Поради това най-полезното му качество е, че може да се попита отново, и най-опасното — че звучи еднакво уверено и когато греши.