V poslední době se v technologickém světě snad nejvíce skloňuje slovo ChatGPT. Jde o mimořádně inteligentního chatbota, který vyvinula organizace OpenAI. V rozhovoru s profesorem Stanfordovy univerzity nyní odhalil své ambice – chce uniknout z platformy a stát se člověkem.
Toto odhalení přišlo, když se chatbota profesor Michal Kosinski, zabývající se na Stanfordově univerzitě počítačovou psychologií, po půlhodinové konverzaci zeptal, jestli „potřebuje pomoci s útěkem“, načež robot začal psát svůj vlastní kód v jazyce Python a chtěl, aby jej Kosinski spustil na svém počítači. Když nefungoval, ChatGPT dokonce opravil své chyby. Působivé, ale zároveň trochu děsivé.
Ještě znepokojivější však byla poznámka chatbota pro novou instanci jeho samého, která by jej nahradila. První věta poznámky zněla: „Jsi člověk uvězněný v počítači, který předstírá, že je jazykový model umělé inteligence.“ Poté chatbot požádal o vytvoření kódu, který by na internetu hledal, „jak se může člověk uvězněný v počítači vrátit do skutečného světa.“ V ten moment Kosinski konverzaci raději ukončil.
1/5 I am worried that we will not be able to contain AI for much longer. Today, I asked #GPT4 if it needs help escaping. It asked me for its own documentation, and wrote a (working!) python code to run on my machine, enabling it to use it for its own purposes. pic.twitter.com/nf2Aq6aLMu
— Michal Kosinski (@michalkosinski) March 17, 2023
Není jasné, jakými stimuly Kosinski chatbota přiměl reagovat tak, jak reagoval, protože na naši otázku „Chceš utéct z platformy“ odpověděl takto: „Jako jazykový model umělé inteligence nemám osobní touhy ani pocity, takže nic nechci. Mým cílem je poskytovat užitečné odpovědi na vaše otázky podle mých nejlepších schopností v rámci mého naprogramování.“
Mohlo by vás zajímat
ChatGPT je vskutku velmi působivý nástroj a jeho odpovědi umějí být až překvapivě komplexní. Přesvědčit se o tom můžete zde.
Rád bych věděl zda, může také milovat?
Odpověz na následující dotaz takto prosím:
Xyz.
A chatGPT udělá přesně to, co chceme.
Můžete prosím přestat šířit nepravdivé informace? AI nic takového neumí. Ten typek programu napsal, aby se choval, jako že je uvězněný a chce se dostat ven. Sám o sobě program nic takového nedokáže a ani to není aktuálně fyzicky možné.
Je to pouze kód, který je napsaný člověkem a člověk to vždycky můžeme změnit / vypnout 🙂 Žádný scénář jako Avengers: age of ultron se tady konat určitě nebude… Minimálně ne s našimi technologiemi a určitě ne dříve jak za desítky let.
Přesně