OpenAI - příležitost nebo hrozba?

Organizace OpenAI je jednou z předních institucí zabývajících se výzkumem a zaváděním umělé inteligence - jazykových modelů založených na ML² umělé a obecné umělé inteligenci (AGI). Jako každý technologický pokrok přináší i OpenAI příležitosti a hrozby, které je důležité sledovat a vhodně na ně reagovat.

Jak funguje OpenAI?

Elon Musk, jeden ze zakladatelů OpenAI, říká, že "Tyto modely jsou založeny na strojovém učení a tvorbě učících se algoritmů. Jedná se například o modely hromadných neuronových sítí, jejichž tréninkový soubor dat tvoří miliardy vět nalezených na internetu. Takový algoritmus je schopen naučit se najít nejpřesnější odpověď na základě sémantické analýzy dotazu."

Příležitosti AI

OpenAI přináší obrovské možnosti v oblasti vývoje a využití umělé inteligence. Pracuje na hlubokém učení, které je jedním z nejprogresivnějších odvětví AI. Vytváří tak pokročilé modely jako GPT-3 a GPT-4, které dokáží psát texty, odpovídat na otázky, překládat jazyky a mnoho dalších úloh.

OpenAI je také známá svou transparentností a otevřeností ve výzkumu AI. Společnost zveřejňuje velkou část svého výzkumu, což umožňuje celému světu pochopit nejnovější pokroky v této oblasti a těžit z nich. To může přispět k rychlejšímu a širšímu uplatnění AI ve vědě, technice, medicíně a mnoha dalších oborech. Posláním AI je podle jejích vlastních slov, aby umělá inteligence přinášela prospěch celému lidstvu.

Hrozby AI

Stejně jako každá jiná výkonná technologie přináší i umělá inteligence rizika. Mezi nejobávanější hrozby patří, že vývoj AI povede ke ztrátě pracovních míst v důsledku automatizace. Jedná se o významný společenský problém, který vyžaduje promyšlená politická a ekonomická rozhodnutí.

Jedním z rizik je také zneužití technologie. Pokročilé generativní modely mohou být například využity k vytváření falešných zpráv, dezinformací nebo k manipulaci s lidmi.

V neposlední řadě existuje také obava z tzv. superinteligence - umělé inteligence, která by ve všech ohledech předčila inteligenci člověka. Taková situace by mohla mít nepředvídatelné a potenciálně katastrofické důsledky.

Co si o využití umělé inteligence myslí náš lektor Dalibor Pánek?

Osobně jako učitel spatřuji ve využití ML v akademické sféře spíše příležitost než hrozbu za předpokladu využívání nástrojů na odhalování podvodů. Co se týče rizik zneužití ChatGPT nebo GPT-4 při psaní seminárních, diplomových a jiných školních a akademických prací, existují už naštěstí i nástroje pro odhalení podvodů jako je např. DetectGPT (https://detectgpt.ericmitchell.ai ), který „hledá na základě analýzy hotového AI modelu vzory, které používá i cílová neuronka. Pokud to bude fungovat, DetectGPT pomůže učitelům v odhalování umělých textů nebo třeba analytikům v boji proti strojově generovaným fake news a jiných nesmyslů.“ říká lektor Počitačové školy GOPAS, Dalibor Pánek.

"Dlužno také dodat, že ChatGPT a GPT-4 jsou modely, které jsou pořád ve vývoji, a tak v současné době generují občas i chyby, které jsou zřejmé na první podhled přímo i uživateli. Přímo na webu openai.com si můžete ověřit nedokonalost generovaných výstupů jazykového modelu ChatGPT, kdy generuje i mylné závěry, což je ošetřeno daleko sofistikovanějším a lépe vytrénovaným upgradem modelu GPT-4, který generuje méně chyb." dodává.

Zdroj: Dalibor Pánek

A jaká je budoucnost AI?

OpenAI představuje fascinující svět příležitostí a výzev. Je na nás, jak se s těmito příležitostmi a výzvami vypořádáme. OpenAI je tedy příležitostí i hrozbou. Je však důležité, abychom si obojího byli vědomi. Budoucnost AI je do značné míry v našich rukou a my musíme být připraveni tuto odpovědnost přijmout.

Mohlo by vás zajímat

• Jsem v kurzu - 50 000 Kč na IT kurzy pro každého! » ZDE
• Nové termíny webináře IT Ráno ZDARMA » ZDE
• Plánované IT odborné konference » ZDE
• Kurzy si můžete zopakovat ZDARMA v rámci GARANCE VĚDOMOSTÍ
• Získejte výhody z IT Klubu » ZDE