Éra, kdy bylo lákavé považovat AI modely jako ChatGPT za vševědoucí věštce pro každou životní krizi, je oficiálně u konce. S odvoláním na masivní rizika odpovědnosti velké technologické společnosti šlapou na brzdu.
Od 29. října se pravidla ChatGPT údajně změnila: již nebude poskytovat konkrétní lékařské, právní nebo finanční rady. Jak informoval NEXTA, bot je nyní oficiálně „vzdělávacím nástrojem“, nikoli „konzultantem“. Důvod? Jak NEXTA poznamenává, „regulace a obavy z odpovědnosti ho sevřely – velké technologické společnosti nechtějí mít na talíři žaloby.“
Nyní místo poskytování přímých rad bude model „pouze vysvětlovat principy, nastiňovat obecné mechanismy a říkat vám, abyste si promluvili s lékařem, právníkem nebo finančním odborníkem. Toto oficiální omezení pouze zdůrazňuje hlubší pravdu: ChatGPT je a vždy byl mistrem přesvědčivých výmyslů. Vyniká v tom, být „přesvědčivě špatný.“
Nové červené linie pro ChatGPT: zdraví, právo a peníze
Nová pravidla hlášená NEXTA jsou explicitní: „žádné další jmenování léků nebo udávání dávkování… žádné šablony žalob… žádné investiční tipy nebo návrhy na nákup/prodej.“ Toto omezení přímo řeší obavy, které technologii dlouho obklopovaly.
Člověk by mohl vzít zdraví do vlastních rukou a ze zvědavosti zadávat ChatGPT příznaky. Výsledné odpovědi mohou znít jako nejhorší scénář, divoce se pohybující od jednoduché dehydratace po vážné diagnózy jako rakovina. Pokud uživatel zadá „mám bulku na hrudi“, AI může navrhnout možnost malignity.
V reálném scénáři by tento uživatel mohl později zjistit, že bulka je lipom, což licencovaný lékař potvrdí jako nezhoubný. Tato realita je přesně důvodem, proč jsou nová pravidla zavedena. AI nemůže objednat laboratorní testy, vyšetřit osobu ani mít pojištění pro případ pochybení.
Totéž tvrdé „ne“ se nyní vztahuje na vaše finance a právní problémy. ChatGPT může vysvětlit, co je ETF, ale nezná váš poměr dluhu k příjmu, důchodové cíle nebo ochotu riskovat. Když jsou v sázce skutečné peníze a pokuty od daňového úřadu, zavoláte odborníka.
Proč ChatGPT selhává v situacích s vysokými sázkami a v reálném čase
Kromě oficiálně zakázaných témat má ChatGPT zásadní nedostatky v situacích s vysokými sázkami. Pokud začne pípat váš detektor oxidu uhelnatého, prosím, neotvírejte ChatGPT a neptejte se, zda jste v reálném nebezpečí. Nejprve evakuujte. Velký jazykový model nemůže cítit plyn ani vyslat záchrannou jednotku.
Bot je také hrozný sázkař. Uživatel mohl mít štěstí s ChatGPT a trefit trojitou sázku během velkého šampionátu, ale nikdy by to neměl doporučovat. Uživatelé viděli ChatGPT halucinovat a poskytovat nesprávné informace o statistikách hráčů, chybně hlášených zraněních a záznamech výher a proher.
Kriticky by uživatel nikdy neměl zadávat důvěrná data. Například technologický novinář by nikdy nehodil embargovanou tiskovou zprávu do ChatGPT pro shrnutí. Tento text by skončil na serveru třetí strany, mimo kontrolu uživatele.
Etické pasti ChatGPT: podvádění a umění
Nakonec jsou tu etické šedé zóny. Žádat ChatGPT o pomoc s čímkoli nelegálním je samozřejmé. Ale co podvádění ve školní práci? Zatímco někteří se nemusí pyšnit používáním starší technologie k nahlédnutí na rovnice na střední škole, rozsah moderního podvádění je výrazně odlišný.
Detektory jako Turnitin se zlepšují a profesoři již dokážou okamžitě rozpoznat „hlas ChatGPT“. Člověk riskuje vyloučení a podvádí pouze sám sebe o vzdělání. Nástroj by měl být používán jako studijní kamarád, ne jako ghostwriter.
Pak je tu otázka umění. Toto není objektivní pravda, jen jeden pohled, ale někteří věří, že AI by neměla být používána k vytváření umění. Mnozí používají ChatGPT pro brainstorming titulků, ale to je doplnění, ne náhrada.
Nové zábrany u ChatGPT nejsou jen drobnou aktualizací; jsou veřejným přiznáním jeho zásadních nedostatků. Čelíc právnímu a regulačnímu tlaku, velké technologické společnosti oficiálně degradovaly bota z potenciálního „konzultanta“ na jednoduchý „vzdělávací nástroj.“
Od chybné diagnostiky zdravotních stavů po halucinace právních a finančních dat jsou rizika příliš vysoká. Závěr je jasný: ChatGPT je mocný asistent pro doplnění, ale nebezpečná náhrada za lidskou odbornost.
Zdroj: ibtimes.co.uk
