Muskova tvrtka xAI, nakon dugotrajnih me\u0111unarodnih kritika, sredinom sije\u010dnja uvela je nova ograni\u010denja za seksualno sugestivne slike generirane umjetnom inteligencijom u Groku. Ovaj potez uslijedio je nakon kritika da je Grok korisnicima dopu\u0161tao da digitalno zamjenjuju \u017eensku odje\u0107u bikinijima te, u nekim slu\u010dajevima, stvaraju seksualizirane prikaze maloljetnika.<\/p>\n\n\n\n
Prve slike ljudi koji su bez pristanka \u201erazodijevani\u201c po\u010dele su kru\u017eiti nekoliko dana nakon uvo\u0111enja te funkcije, no njihovo \u0161irenje posebno se poja\u010dalo oko Nove godine. Prema CNN-u, samo izme\u0111u 5. i 6. sije\u010dnja Grok je kori\u0161ten za generiranje najmanje 6.700 seksualnih slika. One su \u010desto uklju\u010divale \u017eene ili maloljetnike.<\/p>\n\n\n\n
– Grok sada nudi ‘za\u010dinjeni na\u010din rada’ koji prikazuje eksplicitan seksualni sadr\u017eaj, pri \u010demu su neki rezultati generirani s dje\u010djim obilje\u017ejima. Ovo je nezakonito. Ovo je u\u017easno – rekao je tada novinarima glasnogovornik EU-a za digitalna pitanja Thomas Regnier.<\/p>\n\n\n\n
Europska komisija, koja djeluje kao digitalni nadzornik Unije, priop\u0107ila je da \u0107e uzeti u obzir nove mjere koje je poduzeo X te ih preispitati. Du\u017enosnici su upozorili da \u0107e, ako se ti koraci poka\u017eu nedostatnima, EU razmotriti kori\u0161tenje punog opsega Akta o digitalnim uslugama (DSA).<\/p>\n\n\n\n
Potpredsjednica Europske komisije Henna Virkkunen izjavila je da Komisija razmatra izri\u010ditu zabranu ovakvih vrsta AI-generiranih seksualnih slika u okviru Akta o umjetnoj inteligenciji, klasificiraju\u0107i ih kao neprihvatljive rizike.<\/p>\n\n\n\n
– Zabrana \u0161tetnih praksi u podru\u010dju umjetne inteligencije mogla bi biti relevantna za rje\u0161avanje problema seksualnih deepfake sadr\u017eaja bez pristanka i dje\u010dje pornografije – rekla je Virkkunen na ovotjednom plenarnom zasjedanju Europskog parlamenta u Strasbourgu, koja je ujedno i povjerenica nadle\u017ena za tehnolo\u0161ki suverenitet, sigurnost i demokraciju. Tako\u0111er je rekla da DSA smanjuje rizik \u0161irenja seksualnog sadr\u017eaja na internetu bez pristanka.<\/p>\n\n\n\n
Podsjetila je i da je Komisija poslala zahtjev za dostavom informacija platformi X u vezi s Grokom, u sklopu istrage protiv te platforme prema DSA-u. Od platforme je zatra\u017eeno da do kraja godine sa\u010duva sve interne dokumente i podatke koji se na to odnose.<\/p>\n\n\n\n
– Sada ispitujemo u kojoj mjeri X kr\u0161i DSA te ne\u0107emo oklijevati poduzeti daljnje mjere ako dokazi na to upu\u0107uju – rekla je.<\/p>\n\n\n\n
Komisija je ranije poja\u010dala pritisak na X koji je po\u010detkom prosinca ka\u017enjen s 120 milijuna eura zbog kr\u0161enja obveza transparentnosti. EU je inzistirao da \u0107e provoditi svoja pravila unato\u010d negativnim reakcijama ameri\u010dke administracije.<\/p>\n\n\n\n
– DSA je u Europi vrlo jasan. Sve platforme moraju dovesti svoje poslovanje u red jer je ono \u0161to se ovdje generira neprihvatljivo, a uskla\u0111ivanje s pravom EU-a nije opcija. To je obveza – rekao je Regnier na vrhuncu skandala po\u010detkom sije\u010dnja.<\/p>\n\n\n\n
Pro\u0161li tjedan skupina od oko 50 zastupnika Europskog parlamenta pozvala je Komisiju da zabrani aplikacije umjetne inteligencije koje se koriste za stvaranje golih slika na tr\u017ei\u0161tu EU-a.<\/p>\n\n\n\n
Ne mogu bez X-a<\/strong><\/em><\/p>\n\n\n\n Unato\u010d kritikama platforme X, gotovo svi visoki du\u017enosnici EU-a i dalje ondje objavljuju sadr\u017eaje, umjesto da koriste europske alternative, pokazuje istra\u017eivanje dpa.<\/p>\n\n\n\n Predsjednica Europske komisije Ursula von der Leyen i drugi visoki du\u017enosnici jo\u0161 uvijek nemaju slu\u017ebene ra\u010dune na Mastodonu, alternativi sa sjedi\u0161tem u Njema\u010dkoj. Virkkunen je u sije\u010dnju otvorila slu\u017ebeni ra\u010dun na Mastodonu. Visoki politi\u010dari EU-a aktivni su i na Blueskyju, jo\u0161 jednoj platformi sa sjedi\u0161tem u SAD-u koja trenuta\u010dno dobiva na popularnosti.<\/p>\n\n\n\n Foto: Algi Febri Sugita\/ZUMA Press Wire\/dpa<\/em><\/p>\n\n\n\n Komisija opravdava nastavak kori\u0161tenja X-a njegovim dosegom: Mastodon ima oko 750.000 mjese\u010dnih korisnika, u usporedbi sa 100 milijuna na X-u, prema podacima samih tvrtki.<\/p>\n\n\n\n Dug pravni put prema ve\u0107oj sigurnosti na internetu<\/p>\n\n\n\n Put prema za\u0161titi maloljetnika u EU-u dugotrajan je jer se sudaraju pitanja privatnosti, poslovnih interesa i za\u0161tite. Vi\u0161e se propisa preklapa:<\/p>\n\n\n\n Chat Control<\/strong><\/em><\/p>\n\n\n\n Komisija je 2022. predlo\u017eila uredbu kojom bi se platforme obvezale na otkrivanje i prijavljivanje slika i videozapisa zlostavljanja (materijala seksualnog zlostavljanja djece – CSAM), kao i poku\u0161aja predatora da stupe u kontakt s maloljetnicima.<\/p>\n\n\n\n Plan, koji je podr\u017ealo nekoliko organizacija za za\u0161titu djece i koji je dobio nadimak \u201eChat Control\u201c, izazvao je \u017eestoke rasprave o privatnosti unutar Unije od 27 dr\u017eava te doveo do optu\u017ebi za masovni nadzor.<\/p>\n\n\n\n O\u010dekuje se da \u0107e se kona\u010dni zakon pregovarati po\u010detkom 2026. godine kako bi se uskladili pristup Europskog parlamenta, fokusiran na privatnost, i \u017eelja Vije\u0107a EU-a za \u0161irim dobrovoljnim ovlastima skeniranja.<\/p>\n\n\n\n Dok se privremene dobrovoljne mjere skeniranja produljuju do travnja 2026. godine kako bi se izbjegao pravni vakuum, zastupnici Europskog parlamenta istaknuli su hitnost dono\u0161enja trajnog rje\u0161enja.<\/p>\n\n\n\n DSA<\/strong><\/em><\/p>\n\n\n\n Europska unija koristi Akt o digitalnim uslugama kako bi sankcionirala internetske platforme, name\u0107u\u0107i im visoke nov\u010dane kazne, zahtijevaju\u0107i trenuta\u010dne operativne promjene te, kao krajnju mjeru, privremeno obustavljaju\u0107i njihove usluge. Mo\u017ee izre\u0107i kazne ako platforme kr\u0161e obveze iz DSA-a, ne po\u0161tuju privremene mjere ili kr\u0161e preuzete obveze.<\/p>\n\n\n\n Rije\u010d je o uredbi EU-a za sigurniji internetski svijet, koja od platformi zahtijeva suzbijanje nezakonitog sadr\u017eaja, za\u0161titu korisnika i pove\u0107anje transparentnosti.<\/p>\n\n\n\n Akt o umjetnoj inteligenciji<\/strong><\/em><\/p>\n\n\n\n Akt o umjetnoj inteligenciji usvojen je 2024. godine i predstavlja prvi i jedini sveobuhvatni pravni okvir u podru\u010dju umjetne inteligencije na svijetu. Uspostavlja sustav temeljen na procjeni rizika za reguliranje AI tehnologija unutar EU-a, s ciljem da budu sigurne, pouzdane i da po\u0161tuju temeljna prava, uz istodobno poticanje inovacija.<\/p>\n\n\n\n Zabranjuje odre\u0111ene neprihvatljive AI prakse, poput dru\u0161tvenog bodovanja, te postavlja pravila za podru\u010dja visokog rizika primjene AI-a poput kriti\u010dne infrastrukture ili zapo\u0161ljavanja. Tako\u0111er propisuje ograni\u010denja za manipulativne uporabe AI-a, uklju\u010duju\u0107i deepfake sadr\u017eaje usmjerene na djecu.<\/p>\n\n\n\n Zabrane dru\u0161tvenih mre\u017ea<\/strong><\/em><\/p>\n\n\n\n Francuska, koja razmatra zabranu dru\u0161tvenih mre\u017ea za djecu mla\u0111u od 15 godina, od ljeta testira aplikaciju za provjeru dobi koju je razvila Europska komisija. Ovaj alat jedan je od nekoliko na\u010dina provjere dobi korisnika interneta, \u0161to predstavlja veliki izazov i za tehnolo\u0161ke divove i za vlasti.<\/p>\n\n\n\n Pojedina\u010dni napori<\/strong><\/em><\/p>\n\n\n\n \u0160panjolska ministrica za mlade i djecu Sira Rego po\u010detkom sije\u010dnja zatra\u017eila je od dr\u017eavnog odvjetni\u0161tva da ispita mo\u017ee li Grok \u010diniti kaznena djela povezana sa \u0161irenjem materijala seksualnog zlostavljanja djece.<\/p>\n\n\n\n \u0160panjolska trenuta\u010dno razvija vlastiti zakon za za\u0161titu maloljetnika u digitalnom okru\u017eenju. Taj zakon ja\u010da okvir za za\u0161titu osobnog integriteta i privatnosti od novih oblika povreda povezanih s uporabom tehnologija poput umjetne inteligencije, potvr\u0111uju\u0107i da najbolji interes djeteta uvijek mora imati prednost pred bilo kojim digitalnim poslovnim modelom.<\/p>\n\n\n\n Bugarska je poja\u010dala napore u borbi protiv internetskog seksualnog zlostavljanja djece kroz me\u0111unarodnu suradnju policijskih tijela, nacionalne preventivne kampanje i politi\u010dke rasprave uskla\u0111ene s pravom EU-a. Godine 2025. bugarske vlasti sudjelovale su u velikoj me\u0111unarodnoj operaciji u kojoj je uga\u0161en Kidflix, jedna od najve\u0107ih svjetskih platformi za seksualno iskori\u0161tavanje djece, koju je izme\u0111u 2022. i 2025. godine koristilo gotovo 2 milijuna korisnika.<\/p>\n\n\n\n Rumunjska ima zakonodavne mehanizme za borbu protiv materijala seksualnog zlostavljanja djece kroz svoj kazneni zakon, a vlasti nastoje pro\u0161iriti i modernizirati ta pravila.<\/p>\n\n\n\n Od 2025. godine u parlamentu se vodi rasprava o va\u017enom zakonu o za\u0161titi djece na internetu (nazvanom Zakon o digitalnoj punoljetnosti), a Rumunjska postupno sudjeluje i u provedbi pravila EU-a o sprje\u010davanju i suzbijanju seksualnog zlostavljanja na internetu. Zakon o digitalnoj punoljetnosti uvodi obveznu provjeru dobi i roditeljski pristanak za maloljetnike (mla\u0111e od 16 godina) za pristup internetskim uslugama poput dru\u0161tvenih mre\u017ea, platformi za igranje i streaming.<\/p>\n\n\n\n Kandidatkinja za \u010dlanstvo u EU-u, Bosna i Hercegovina, jo\u0161 uvijek nema poseban zakon koji regulira ovo podru\u010dje. U BiH se kaznena odgovornost za proizvodnju, distribuciju i posjedovanje takvog materijala temelji na kaznenim zakonima koji obuhva\u0107aju seksualno iskori\u0161tavanje djece, ali ne sadr\u017ee izri\u010dite odredbe o AI-generiranom ili simuliranom sadr\u017eaju.<\/p>\n\n\n\n EU je uspostavila niz komplementarnih alata i mjera za za\u0161titu svojih gra\u0111ana, mladih i starih, od \u0161tetnih praksi na internetu, no slabe to\u010dke uklju\u010duju izazove u provedbi, algoritamsko poja\u010davanje \u0161tete, neujedna\u010denu nacionalnu primjenu te rasprave o ravnote\u017ei izme\u0111u sigurnosti i privatnosti.<\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" BRUXELLES – Nakon negodovanja izazvanog chatbotom Grok na platformi X, potreba za boljom za\u0161titom na internetu postala je jo\u0161 hitnija. Europska unija ima na raspolaganju nekoliko alata, no \u010dini se da oni nisu dovoljni za sprje\u010davanje zloporaba. Europska unija pose\u017ee za stro\u017eim mjerama suo\u010dena s ogor\u010denjem zbog zloupotrebe umjetne inteligencije (AI), stoji u zajedni\u010dkom tekstu […]<\/p>\n","protected":false},"author":9,"featured_media":2376,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[14],"tags":[19,652],"class_list":["post-2375","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-europrice","tag-eu","tag-regulatorni-izazovi"],"_links":{"self":[{"href":"https:\/\/eu.fena.ba\/index.php?rest_route=\/wp\/v2\/posts\/2375","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/eu.fena.ba\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/eu.fena.ba\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/eu.fena.ba\/index.php?rest_route=\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/eu.fena.ba\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2375"}],"version-history":[{"count":1,"href":"https:\/\/eu.fena.ba\/index.php?rest_route=\/wp\/v2\/posts\/2375\/revisions"}],"predecessor-version":[{"id":2377,"href":"https:\/\/eu.fena.ba\/index.php?rest_route=\/wp\/v2\/posts\/2375\/revisions\/2377"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/eu.fena.ba\/index.php?rest_route=\/wp\/v2\/media\/2376"}],"wp:attachment":[{"href":"https:\/\/eu.fena.ba\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2375"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/eu.fena.ba\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2375"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/eu.fena.ba\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2375"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"\"\/](\"https:\/\/www.fena.ba\/author\/assets\/uploads\/2026\/01\/m_c94d36c09da793a4ef0dcad05f74280e.jpg\")
<\/figure>\n\n\n\n