Indonézia zablokovala chatbot Grok kvôli riziku šírenia pornografického obsahu
Indonézia sa stala prvou krajinou, ktorá dočasne zablokovala chatbot Grok, pričom tento krok nasledoval po zisteniach o riziku šírenia pornografického obsahu prostredníctvom tohto nástroja umelej inteligencie. Ministerstvo komunikácií a digitálnych technológií, vedené ministerkou Meutya Hafid, vyhlásilo, že praktiky generovania neoprávneného sexuálneho obsahu sú považované za vážne porušenie ľudských práv a bezpečnosti občanov v digitálnom priestore.
Dôvodom obáv sú možnosti, ktoré Grok ponúka, vrátane generovania sexuálne explicitných obrázkov. Platforma, založená na AI, je integrovaná do sociálnej siete X, ktorá patrí miliardárovi Elonovi Muskovi. V Európe sa Grok taktiež stretáva s kritikou a podniká sa vyšetrovanie týkajúce sa jeho funkcií.
Prísne obmedzenia a následky
Hoci Grok pôvodne zamietal obavy ohľadom generovania explicitného obsahu, nedávno obmedzil túto funkciu len pre platiacich predplatiteľov. Indonézia, ako krajina s najväčšou moslimskou populáciou na svete, má striktne zakázané šírenie obscénneho obsahu. Tieto pravidlá sú reflektované aj v prístupoch vlády k digitálnym technológiám a ich regulácii.
„Návrh predvolať predstaviteľov platformy X na diskusiu je znakom odhodlania vlády zabezpečiť bezpečnosť občanov v online prostredí. Očakávame, že spoločnosti prevádzkujúce takéto technológie budú brať vážne legislatívne nariadenia,“ dodala Hafid.
Reakcie a ďalšie kroky
Obmedzenie funkcií Groku a následná blokáda sú varovným signálom nielen pre prevádzkovateľov chatbotov, ale aj pre celú komunitu technológie AI. Títo musia byť obozretní pri implementácii funkcionalít, ktoré by mohli naraziť na legislatívne a etické prekážky.
Indonézska vláda sa takisto vyzýva na rozšírenie svojich regulácií na ďalšie technologické platformy, ktoré by mohli generovať podobne problematický obsah. Tí, ktorí budú pokračovať vo vytváraní obsahu ohrozujúceho verejnú bezpečnosť, sa vystavujú riziku sankcií a obmedzení.
