Mesterséges Intelligencia, valóságos veszély: AI-generált kihívások a gyerekvédelemben
Szeptember végén Budapesten tartották az első Digitális Gyermek Jólléti Konferenciát és Kiállítást – a Safer Internet Center szakértői is képviseltették magukat.
Szeptember 28-án első alkalommal tartották meg a Digitális Gyermek Jólléti Konferenciát Budapesten, a Petőfi Irodalmi Múzeumban. A rendezvényt az EduTech Hungary Zrt. szervezte, és célja az volt, hogy felkészítse a szülőket, a pedagógusokat a digitális világ kihívásaira és arra, hogyan teremthetnek biztonságos digitális környezetet gyermekeik számára. Az előadók között a Gyermekmentő Szolgálat által üzemeltetett Safer Inter Center szakértői is ott voltak, a Kulturális és Innovációs Minisztérium, a Belügyminisztérium, a Nemzeti Média- és Hírközlési Hatóság, a Nemzeti Adatvédelmi és Információszabadság Hatóság képviselői mellett.
A Nemzetközi Gyermekmentő Szolgálat, mint Magyarország Safer Internet Centere (SIC) tudatosságnövelő központként és hotline-ként a gyerekek, szülők és tanárok felvilágosítását végzi, illetve közreműködik az interneten található káros tartalmak eltávolításában. Szeretnénk elérni, hogy az országban minél több internethasználó böngészhessen biztonságos körülmények között, illetve, hogy probléma esetén az érintettek tudják, kihez fordulhatnak segítségért. Szervezetünk 2019 óta saját hotline-t működtet, amelyen keresztül a felhasználók bejelenthetik a káros és illegális tartalmakat: www.biztonsagosinternet.hu.
A konferencián munkatársunk, Kotroczó Dóra hotline szakértő tartott előadást a hotline működéséről. 2023-ban több mint 4400 bejelentést kaptunk. A beküldött anyagok közül elemzőink 715 tartalmat találtak bizonyítottan illegálisnak, amelyeknek csaknem 77%-a gyermekek szexuális bántalmazását ábrázoló anyag volt. Új jelenség, hogy globálisan megnőtt az olyan bejelentések száma, amelyek generatív mesterséges intelligencia (AI) által előállított képeket tartalmaznak. Ezek a generált tartalmak legtöbbször, valódi gyerekeket ábrázoló képek manipulálása olyan módon, hogy bántalmazásnak tűnjön. Emellett létezik még olyan kategória, ahol valódi gyerekek bántalmazását ábrázoló anyagokat manipulálnak a hatóságok megtévesztése céljából. A harmadik kategória, amikor nemlétező gyerekeket ábrázolnak szexualizált helyzetben, bántalmazás közben. Míg egy évvel ezelőtt még könnyen felismerhetők voltak a generált tartalmak, ma már ez a tapasztalt elemzőknek is problémát okoz, ez pedig megjósolhatatlan következményekkel járhat. A generált tartalmak ugyanúgy bántalmazásnak minősülnek és fontos hangsúlyozni, hogy minden gyermek áldozat; függetlenül attól, hogy a tartalmat hogyan hozták létre.
A 2023. évi hotline-jelentésről bővebben itt lehet olvasni:
Elkészült a Biztonsagosinternet.hu hotline 2023-as beszámolója | biztonsagosinternet.hu
Netezz biztonságosan! előadásaink ingyenesen megrendelhetők egész évben az alábbi linken: https://www.saferinternet.hu/legyel-az-internet-asza/oldalsav/oktatasok-megrendelese
