Technologické firmy, zejména ty zabývající se umělou inteligencí, se v poslední době ocitají pod silným tlakem kvůli obavám o bezpečnost a duševní zdraví uživatelů. Společnost OpenAI, známá svým chatbotem ChatGPT, nedávno oznámila, že plánuje uvolnit některá ze svých restriktivních pravidel pro generování obsahu. Tento krok přichází v reakci na kritiku a žaloby, které se týkají tragických událostí, jako je sebevražda šestnáctiletého chlapce, jehož rodiče obviňují OpenAI, že chatbot přispěl k jeho rozhodnutí.
Podle šéfa OpenAI Sama Altmana byla dosavadní pravidla nastavena poměrně přísně, aby se zajistila opatrnost v otázkách duševního zdraví. Nicméně firma si uvědomila, že tato rigidita může snižovat užitečnost a zábavnost jejich nástrojů. Altman uvedl, že nyní, když se podařilo zmírnit některé závažné problémy, bude možné bezpečně uvolnit omezení a poskytnout uživatelům více osobní a lidský zážitek.
Nová aktualizace ChatGPT, která má být brzy k dispozici, přinese možnost generovat erotický obsah, avšak pouze pro ověřené dospělé uživatele. Tento krok vyvolává otázky o etice a zodpovědnosti firem, které se rozhodují uvolnit taková pravidla, zejména v kontextu nedávných tragédií, které ukazují na potenciální nebezpečí silného emocionálního pouta, které si uživatelé mohou s chatbotem vytvořit.
Odborníci, jako psycholožka Adéla Švestková, varují, že je důležité, aby rodiče aktivně komunikovali se svými dětmi o jejich digitálním světě a o tom, jak bezpečně používat technologie, včetně umělé inteligence. Podle ní by mělo být používání AI podobné jako u jiných technologií, jako jsou sociální sítě, a mělo by být řízeno věkem a zralostí uživatelů.
OpenAI také plánuje zavést nové kontrolní mechanismy pro rodiče, které jim umožní sledovat a řídit interakce jejich dětí s chatbotem. Tato opatření by měla pomoci zajistit, že mladiství nebudou vystaveni nevhodnému obsahu a že budou mít bezpečné prostředí pro používání AI.
Celkově se zdá, že technologické firmy čelí složitému dilematu: jak vyvážit inovace a kreativitu s odpovědností a bezpečností uživatelů. Rozhodnutí OpenAI o uvolnění pravidel pro generování obsahu může mít dalekosáhlé důsledky nejen pro jednotlivce, ale také pro celou společnost a její přístup k umělé inteligenci.
