Az Instagram újabb lépést tesz afelé szülői felügyeleti eszközök valamint a kiskorúak digitális károkozásának megelőzése. A Meta tulajdonában lévő platform bejelentette, hogy értesíteni fogja a szülőket, ha azt észleli, hogy tizenéves gyermekeik rövid időn belül ismételten öngyilkossággal vagy önkárosítással kapcsolatos kifejezéseket keresnek.
A változás nem azt jelenti, hogy válogatás nélkül mindent láthatunk, amit a fiatalok az alkalmazásban csinálnak, hanem inkább egy nagyon konkrét figyelmeztető jel amikor folyamatos aktivitás folyik az ilyen típusú érzékeny keresések során. Az elképzelés az, hogy a családok időben beavatkozhassanak információkkal és szakmai támogatással, ahelyett, hogy ezek a kockázati tényezők rejtve maradnának a gyermek mobiltelefonjának képernyőjén.
Hogyan fog működni az új öngyilkossági keresésre figyelmeztető jelzés?
A közösségi oldal ragaszkodik ahhoz, hogy nem egyetlen lekérdezésre lesz értesítés, hanem ismétlés rövid időn belülCsak akkor aktiválódik a szülőknek vagy gondviselőknek szóló riasztás, ha a rendszer több egymást követő kísérletet észlel az öngyilkosságra, önkárosításra vagy önkárosítási szándékra utaló kifejezések keresésére.
Az aktiválási pont meghatározásához Meta állítása szerint elemezte tinédzserek keresési mintái és együttműködtek az Öngyilkosság és Önkárosítás Elleni Tanácsadó Csoportjuk szakembereivel. Segítségükkel meghatároztak egy küszöbértéket, amely rövid időn belül több keresést ír elő, azzal a szándékkal, hogy elkerüljék az eszköz hasznosságát csökkentő triviális riasztásokat.
A következő hetekben mind a szülők, mind a felügyeletet már igénybe vevő fiatalok előzetes értesítést kapnak az alkalmazásban, amely elmagyarázza, hogy ez... új riasztási funkció Ez implementálásra kerül. Innentől kezdve, ha a rendszer kockázatos viselkedést észlel, értesítést küld.
A figyelmeztetést kiváltó keresések között olyan egyszerű kifejezések is megjelenhetnek, mint a „öngyilkosság"Vagy"önkárosításOlyan kifejezések, amelyek önkárosításra ösztönöznek, vagy olyan kijelentések, amelyek arra utalnak, hogy a tinédzser esetleg önkárosítást fontolgat. Nem csak elszigetelt szavakról van szó, hanem olyan kifejezésekről, amelyek együttesen utalnak valamire. érzelmi sebezhetőség lehetséges helyzete.
A riasztás kiadását követően a szülői felügyelet alá tartozó szülőkhöz különböző csatornákon keresztül jut el: e-mail, SMS, WhatsApp üzenetek Ráadásul alkalmazáson belüli értesítésként is megjelenik. Ha rákoppint, egy teljes képernyős üzenet nyílik meg, amely világos magyarázatot ad a történtekről, és speciális forrásokra mutató hivatkozásokat tartalmaz.
Mit fognak látni a szülők, és milyen források lesznek elérhetőek számukra?
Az üzenet, amit a felnőttek kapnak, azt jelzi, hogy a gondozásukban lévő tinédzser megpróbálta öngyilkossággal vagy önkárosítással kapcsolatos tartalmak ismételt keresése rövid időközön belül. Nem fogja megjeleníteni a teljes tevékenységi előzményeket, de egyértelművé teszi, hogy az ilyen típusú lekérdezésekben megfigyelhető egy minta.
Ezen információk mellett az Instagram közvetlen hozzáférést biztosít majd a következőkhöz: Mentális egészségügyi és gyermekbiztonsági szakértőkkel kidolgozott anyagÚgy tervezték, hogy segítsen érzékeny beszélgetések kezdeményezésében anélkül, hogy túldramatizálnák, de a lehetséges kockázatokat minimalizálnák, a cél az, hogy gyakorlati útmutatót nyújtson a szülőknek arról, hogy mit kérdezzenek, hogyan hallgassanak meg, és milyen szolgáltatásokat vehetnek igénybe, ha további lépéseket kívánnak tenni.
Meta elismeri, hogy egy ilyen figyelmeztetés igazi sokkoló lehet, és elismeri, hogy az is lehet nyomasztó minden család számáraA cég ennek ellenére azt állítja, hogy hasznosabb korán rendelkezni ezzel az információval, mint egy potenciális válságot akkor felfedezni, amikor az már súlyosbodott. Szavaik szerint arról van szó, hogy a felnőtteknek megadják a „szükséges eszközöket a beavatkozáshoz”, ha gyermekük online keresései arra utalnak, hogy támogatásra van szüksége.
A cég azt is hangsúlyozza, hogy az értesítéseket csak azoknak küldik, akik aktiválták azokat. szülői felügyeleti funkciókMás szóval, egy bizonyos egyensúly marad fenn a magánélet és a védelem között: nem akármelyik felnőtt láthatja ezeket a jeleket, hanem csak azok, akik már jogosultak a kiskorú fiókjának felügyeletére.
Ezenkívül a Meta jelzi, hogy továbbra is felülvizsgálja a rendszer működését a gyakorlatban, meghallgatva a családok és a szakértői szervezetek visszajelzéseit, hogy szükség esetén módosítsa az aktiválási küszöböt, hogy a riasztások ne váljanak állandó zajjá, amelyet végül figyelmen kívül hagynak.
Meglévő védelmek: találati blokkolás és segélyvonalak
Az új szülői riasztások kiegészítik az Instagram által már korábban bevezetett intézkedéseket. csökkenteni a serdülők expozícióját káros tartalomra. Jelenleg, ha egy kiskorú fiókjában olyan kifejezésekre próbál rákeresni, amelyek egyértelműen az öngyilkossággal vagy önkárosítással kapcsolatosak, a platform blokkolja az eredményeket, és ehelyett segélyvonalakra és speciális szervezetekre mutató linkeket jelenít meg.
Ez azt jelenti, hogy a tinédzserek nem látnak olyan bejegyzéseket vagy profilokat, amelyek dicsőíthetik vagy népszerűsíthetik az önpusztító viselkedést. Ehelyett lehetőséget kapnak arra, hogy kapcsolatba lépjenek... pszichológiai támogató szolgáltatások vagy megbízható információkhoz jutni a mentális egészséggel kapcsolatban. Még akkor is, ha a keresések általánosabban érzelmi témákhoz kapcsolódnak, de az öngyilkosságot nem említik közvetlenül, az alkalmazás átirányíthat konkrét forrásokra.
A közzétett tartalommal kapcsolatban a Meta fenntartja, hogy szigorú szabályok az öngyilkosság és az önkárosítás népszerűsítése ellenA cég lehetővé teszi a felhasználók számára beszélj a saját tapasztalataidról és nehézségeidrőlAz ilyen típusú bejegyzéseket azonban elrejtik a tinédzserek elől – még akkor is, ha követik a megosztó személyt –, ha potenciálisan irritálónak vagy a kiskorúak számára veszélyesnek ítélik őket.
Az Instagram azt is kijelenti, hogy olyan helyzetekben, amikor a felhasználó fizikai biztonságát fenyegető közvetlen veszélyt észlelnek,... hívja a sürgősségi szolgálatokat helyiek. Az ilyen típusú beavatkozások, amelyeket óvatosan és eseti alapon végeznek, a protokolljuk részét képezik a fizikai sérülés súlyos fenyegetése esetén.
A családi riasztások bevezetésével a vállalat célja annak biztosítása, hogy a figyelmeztetések ne korlátozódjanak a digitális világra. Az ötlet az, hogy a kockázatészlelő technológiát ötvözzék a szülők azon képességével... kísér és felügyel mi történik a képernyőn kívül.
Hol fogják először piacra dobni őket, és mikor érkezhetnek meg Spanyolországba és Európába?
A Meta szerint a funkció kezdeti bevezetése a következő időpontban fog megtörténni: Egyesült Államok, Egyesült Királyság, Ausztrália és KanadaEzeken a piacokon a jövő héten kezdik el küldeni az értesítéseket azoknak a családoknak, akik már használnak szülői felügyeleti eszközöket az Instagramon.
A cég azt állítja, hogy szándékában áll kiterjeszteni az eszközt a következőkre: más régiókban egész évbenEz olyan európai országokat is magában foglal, mint Spanyolország, bár konkrét ütemtervet még nem adtak meg. A fokozatos bővítés részben annak köszönhető, hogy a funkciót hozzá kell igazítani a különböző szabályozási keretekhez és jogi kontextusokhoz az adatvédelemmel és a kiskorúakkal kapcsolatban.
Európában a bevezetésre olyan szabályozások vonatkoznak, mint például Általános adatvédelmi rendelet (RGPD) valamint az új digitális szolgáltatási törvény (DSA) követelményei, amelyek előírják a nagy platformok számára, hogy részletesen indokolják és dokumentálják a kiszolgáltatott felhasználókra vonatkozó ajánlási, moderálási és védelmi rendszereiket.
Spanyolország, amely az utóbbi években felerősödött a vita a kiskorúak mobiltelefon- és közösségi hálózathasználatáról, várhatóan arra fog összpontosítani, hogyan kezelik ezeket. bizalmas riasztások: ki fér hozzá az információkhoz, hogyan tárolják azokat, mennyi ideig, és milyen garanciák vannak a tinédzserek adatvédelmével kapcsolatban.
Mindenesetre a Meta bejelentése összhangban van az európai kormányok és gyermekszervezetek részéről egyre növekvő nyomással, hogy a nagy hálózatok vállalják a felelősséget. nagyobb felelősség a fiatalok mentális egészségéértanélkül, hogy egyszerűen meg kellene várni, amíg a hatóságok szigorúbb korlátozásokat vezetnek be.
Kényes egyensúly: védelem, adatvédelem és „tisztességes” értesítések
Az egyik legfontosabb szempont, amit a vállalat hangsúlyoz, a keresés „a megfelelő egyensúly” a figyelmeztetés és a túlzott riasztás elkerülése közöttHa a rendszer bármilyen kétértelmű kifejezés vagy szórványos keresés esetén értesítést küldene, a szülők túlterheltek lennének, és elveszíthetnék a bizalmukat az eszköz hasznosságában.
Ennek elkerülése érdekében a Meta elmagyarázza, hogy egy olyan küszöbértéket választott, amely megköveteli, hogy több keresés rövid időn belülMég akkor is, ha fennáll annak a veszélye, hogy egyes esetekben olyan riasztást küldenek, amely valójában nem tükröz komoly helyzetet. A vállalat által megkérdezett számos szakértő úgy véli, hogy jobb az óvatosság és tájékoztatás, amennyiben megfelelő erőforrások állnak rendelkezésre, és a riasztást nem diagnózisként mutatják be.
Olyan szervezetek, mint a Parent Zone vagy a Cyberbullying Research Center rámutattak, hogy amikor egy tinédzser aktívan keres információt az öngyilkossággal vagy önkárosítással kapcsolatban, egyértelmű tájékoztatást adni a szülőknek Ez mindent megváltoztathat. Nem a szakemberek leváltásáról van szó, hanem arról, hogy teret adjunk a családoknak, hogy kérdéseket tegyenek fel, támogatást nyújtsanak, és szükség esetén speciális segítséget kérjenek.
Ugyanakkor aggodalmak merültek fel azzal kapcsolatban, hogy kiskorúak digitális adatvédelmeBár a funkció csak szülői felügyelet mellett aktiválódik, egyes csoportok rámutatnak, hogy elengedhetetlen világosan elmagyarázni a fiataloknak, hogy milyen típusú információkat lehet megosztani a szüleikkel és milyen célból, hogy ne érezzék úgy, hogy ok nélkül kémkednek utánuk.
A Meta azzal érvel, hogy ez a megközelítés illeszkedik a „megosztott felelősségmodell” iránti elkötelezettségükhöz: a platform szűrőket és blokkolásokat alkalmaz, az algoritmusok kockázati jeleket észlelnek, a családok pedig beavatkozási eszközöket kapnak, mindig az egyes országok szabályozása által meghatározott korlátokon belül.
Következő lépés: riasztások a Meta mesterséges intelligenciájával folytatott beszélgetésekről
A kereséseken túl a cég azt is bejelentette, hogy azon dolgozik, hogy hasonló, mesterséges intelligenciához kapcsolódó riasztásokEgyre több tinédzser fordul chatbotokhoz, hogy érzékeny témákról beszélgessen, és a Meta biztosítani szeretné, hogy ha a mesterséges intelligencia öngyilkossággal vagy önkárosítással kapcsolatos beszélgetéseket észlel, a szülők is riasztást kapjanak.
A cég szerint a mesterséges intelligencia modelljei már betanították őket a következőkre: biztonságosan reagáljon a kiskorúakratámogató üzeneteket, megbízható felnőttekkel való kapcsolatfelvételre vonatkozó ajánlásokat, és bizonyos esetekben szakmai forrásokhoz vezető linkeket kínál. A kidolgozás alatt álló további réteg a családok értesítése lesz, amikor a chatboton keresztül folyamatosan önkárosításról beszélnek.
A terv az, hogy ezeket az új értesítéseket „bizonyos mesterséges intelligencia élményekhez” indítsák el. ez év végénElőször azokon a piacokon, ahol már létezik felügyelet, majd a többi területen. A keresésekhez hasonlóan a funkció várhatóan fokozatosan igazodik majd a helyi szabályozáshoz, különösen az Európai Unión belül.
Ez a fejlődés a helyzet megváltozását tükrözi: a kiskorúak védelme már nem korlátozódik a hagyományos hírfolyamokban közzétett és látható tartalmakra, hanem kiterjed a következőkre is: interakciók automatizált rendszerekkel képes összetett beszélgetések lebonyolítására, ami aggasztja a szabályozó hatóságokat és a gyermekvédelmi szervezeteket Európában és más régiókban.
A Meta számára a kihívás az lesz, hogy bebizonyítsa: ezek az új riasztások nemcsak papíron léteznek, hanem szigorúan, átláthatóan és megfelelő külső felügyelet mellett alkalmazzák is őket, hogy bizalmat keltsenek a szülők, a pedagógusok és a hatóságok körében.
Az Instagram lépése egy olyan kontextus része, amelyben globális nyomás a közösségi médiára a gyermekek és serdülők biztonságának megerősítése, különösen a mentális egészség tekintetében. A kockázatészlelő technológia és a közvetlen családi támogatás összekapcsolásával a platform célja, hogy a reaktív moderálásról a korai megelőzési modellre térjen át. Még nem tudni, hogyan valósul meg Spanyolországban és Európa többi részén, de az irány egy olyan forgatókönyv felé mutat, amelyben a szülők, az iskolák, a szakemberek és a platformok egyre inkább megosztják a felelősséget a fiatalok számára kevésbé ellenséges digitális környezet megteremtésében.
