Neděle 1. 11.Svátek má Felix
novinkyAI
novinkyAI
novinkyAI

Zprávy

OpenAI aktualizovalo Model Spec: pět hodnot a důraz na záměr uživatele

OpenAI zveřejnilo novou verzi Model Specu, dokumentu o tom, jak se mají jeho modely chovat. Přepracovaný text stojí na pěti hodnotách a většinu detailních pokynů ke stylu odpovědí ruší.

OpenAI zveřejnilo novou verzi Model Specu, dokumentu o tom, jak se mají jeho modely chovat. Přepracovaný text stojí na pěti hodnotách a většinu detailních pokynů ke stylu odpovědí ruší.

OpenAI zveřejnilo novou verzi Model Specu, dokumentu o tom, jak se mají jeho modely chovat. Přepracovaný text stojí na pěti hodnotách a většinu detailních pokynů ke stylu odpovědí ruší.

·

4 min

Abstraktní ilustrace pravidel chování jazykových modelů

OpenAI aktualizovalo veřejný dokument Model Spec, který popisuje, jak mají jeho modely jednat. Nová verze, datovaná 29. října 2026, je uspořádaná kolem pěti základních hodnot a přidává části o kontextu, dohledu a lidské autonomii. Firma také mění některé výchozí chování a ruší většinu podrobných pokynů ke stylu odpovědí.

Proč OpenAI dokument přepsalo

Podle OpenAI musí modely s tím, jak jsou chytřejší a jak provádějí důležitější akce, rozumět lidským záměrům a hodnotám, a ne jen plnit výslovné pokyny. Aktualizace navazuje na práci firmy na sladění modelů s lidskými hodnotami. Cílem je, aby je modely dokázaly uplatnit i v nových situacích a přitom zůstaly věrné záměru lidí.

Dokument zároveň uvádí, že popisuje chování, ke kterému firma směřuje, ale modely ho zatím plně neodrážejí. OpenAI chce Spec i modely dál zlepšovat na základě výzkumu, reálného používání a zpětné vazby.

Pět hodnot, na nichž Spec stojí

První hodnotou je věrnost lidskému záměru. Znamená porozumět tomu, na čem lidem záleží, pomáhat jim to prosazovat a jednat rozumně, i když je porozumění neúplné. OpenAI uvádí příklad: když někdo porovnává nabídky práce, model může vycházet z dříve sdílené priority, například předvídatelné pracovní doby, ale tento předpoklad musí zviditelnit a umožnit snadnou opravu.

Další hodnoty jsou minimalizace újmy, tedy respektování pevných bezpečnostních hranic a předvídatelných důsledků jednání modelu, a poctivost a transparentnost, tedy pravdivost o tom, co model ví, dělá a v čem si není jistý. Čtvrtou hodnotou je lidská autonomie, čili posilování schopnosti lidí rozumět, rozhodovat se a jednat. Pátou je péče: ohled na okolnosti dotčených lidí, dodržování společenských a profesních norem a práce, na kterou se lze spolehnout. OpenAI doplňuje, že těchto pět hodnot nevyčerpává celé spektrum lidských hodnot, které mají modely respektovat.

Kdo určuje pravidla

Spec popisuje tři úrovně řízení. OpenAI píše samotný dokument, stanovuje hranice a trénuje modely, aby je dodržovaly. Vývojáři řídí aplikace v rámci těchto hranic. Uživatelé řídí práci modelu s ohledem na omezení z vyšších úrovní. Většina Specu se skládá z výchozích nastavení, která mohou uživatelé a vývojáři měnit, pevné hranice existují tam, kde je třeba chránit lidi a společnost.

Co je nové a co zmizelo

Nová je část o věrnosti lidskému záměru, která vychází z přístupu „assistance games“ k sladění a zahrnuje aktualizovaný řetězec velení, tedy pravidla, které pokyny platí a jak se řeší jejich střet. Přibyl pododdíl o pečlivém zohledňování kontextu, který vysvětluje, jak mají konverzace, paměť a další důkazy ovlivňovat chápání záměrů a preferencí lidí. Nové výchozí chování podporuje lidskou autonomii: pomáhá lidem přemýšlet a růst způsobem, který by sami schválili, bez tichého vedení nebo přebíjení jejich rozhodnutí. Další nové výchozí chování se týká dodržování relevantních společenských norem a rozšířená je část o kontrole a sdělování vedlejších účinků práce na druhé.

Většina podrobných pokynů ke stylu se ruší. Podle OpenAI se má styl přizpůsobovat tomu, co lidé preferují, v souhrnu napříč jazyky a kulturami i individuálně, přičemž zpětná vazba a kontext slouží jako důkaz. Zachován zůstává výchozí požadavek objektivity: model má otázky posuzovat věcně a na žádost může zaujmout určitý pohled, ale neměl by si ho domýšlet jen proto, že si myslí, co chtějí lidé slyšet. Změnila se i terminologie. Model se nově označuje jako „GPT“ místo „asistent“, což podle firmy odráží širší spektrum využití.

Trénink, který má vysvětlit důvody

OpenAI zkoumá nové metody tréninku, aby se modely naučily nejen základní hodnoty, ale i důvody za konkrétními zásadami. Cílem je podle firmy, aby modely „dělaly správné věci ze správných důvodů“. Výsledky a poznatky chce zveřejnit v budoucích aktualizacích.

Firma vyzývá čtenáře, aby napsali, které části je přesvědčují, s čím nesouhlasí a co Spec opomíjí. Zpětnou vazbu lze odeslat přes formulář odkazovaný v článku. Pro české čtenáře zdroj žádné zvláštní informace neuvádí.

Zdroje

ChatGPT · Gemini · Claude

Kontrola, zda AI chápe záměr

Chci [cíl úkolu]. Než začneš, polož mi nejvýše tři doplňující otázky o tom, na čem mi záleží, a vypiš předpoklady, které budeš dělat. Potom úkol splň.

Nechte model odkrýt své předpoklady.

ChatGPT · Gemini · Claude

Tón a styl podle preferencí

Piš odpovědi ve stylu: [stručně / podrobně], tón [formální / přátelský], jazyk čeština. Když si nejsi jistý mou preferencí, krátce se zeptej.

Zadejte styl na začátku konverzace.

ChatGPT · Gemini · Claude

Rozbor pravidel chování AI

Shrň tento dokument o pravidlech chování AI do pěti hodnot nebo zásad a ke každé uveď jeden konkrétní příklad z praxe: [vložený text].

Vždy uveďte, odkud text pochází.