Aurora AIOpisz swój przypadek

Oferta

UsługiProduktyRealizacje

Dla kogo

Private EquityEnterpriseMŚP
UsługiProduktyRealizacjeO nasBlogKontakt

Baza wiedzy

Start tutajWikiSłownikPrzewodniki

Słownik AI

Rozszerzone myślenie (extended thinking / reasoning effort)

extended thinking, reasoning effort, tryb myślenia, thinking budget

Rozszerzone myślenie to tryb, w którym model przed udzieleniem ostatecznej odpowiedzi generuje wewnętrzne rozumowanie. Wymienia większe opóźnienie i zużycie tokenów na wyższą trafność przy trudnych zadaniach.

Rozszerzone myślenie to tryb pracy modelu, w którym przed wydaniem ostatecznej odpowiedzi pozwala mu się wygenerować ciąg wewnętrznego rozumowania — rozpisać kroki, sprawdzić warianty, wyłapać błąd. Dopiero potem model formułuje finalną odpowiedź. Jest to świadomy kompromis: rośnie czas odpowiedzi i liczba zużytych tokenów, ale na trudnych zadaniach — matematyce, analizie wieloetapowej, kodzie — wyraźnie rośnie trafność.

Mechanizm jest pokrewny technice łańcucha myśli, w której prosi się model, by „myślał krok po kroku”. Różnica jest taka, że rozszerzone myślenie bywa wbudowane w sam model lub sterowane parametrem nakładu (reasoning effort), zamiast wymuszane wyłącznie treścią promptu. Modele zaprojektowane wokół tego mechanizmu określa się jako modele rozumujące.

Dla wdrożenia praktyczna jest możliwość regulacji nakładu. Proste, masowe zapytania obsługuje się w trybie szybkim i tanim, a rozszerzone myślenie włącza się tam, gdzie błąd jest kosztowny i opłaca się dłuższa, droższa inferencja. Sterowanie tym poziomem to realna dźwignia kosztu i jakości w produkcyjnym użyciu modeli.

Powiązane pojęcia