„Uważaj, Instagramie! Wyniki badań duńskich naukowców na temat niebezpiecznych treści Duńscy naukowcy przeprowadzili badanie, z którego wynika, że Instagram nie usuwa niebezpiecznych treści dotyczących samookaleczenia. Algorytmy sieci społecznościowej aktywnie przyczyniają się do dystrybucji takich materiałów wśród nastolatków.„, informuje: unn.ua
Bliższe dane
Duńscy badacze utworzyli na platformie mediów społecznościowych prywatną sieć użytkowników samookaleczających się, obejmującą fałszywe profile osób w wieku 13 lat i więcej, w których udostępnili 85 materiałów związanych z samookaleczeniem, których liczba stopniowo wzrastała, w tym krew, żyletki i wezwania do samookaleczenie.
Celem badania była weryfikacja twierdzenia Meta, że znacząco usprawniła swoje procesy usuwania złośliwych treści z wykorzystaniem sztucznej inteligencji. Firma technologiczna twierdzi, że usuwa około 99% złośliwej zawartości, zanim zostanie ona zgłoszona.
Jednak organ nadzorujący rozwój cyfrowy Digitalt Ansvar stwierdził, że podczas miesięcznego eksperymentu nie usunięto żadnych takich niebezpiecznych obrazów.
Zdaniem przedstawicieli Digitalt Ansvar niedostateczna moderacja platformy świadczy o jej niezgodności z prawodawstwem UE.
Ustawa o usługach cyfrowych wymaga, aby duże usługi cyfrowe identyfikowały ryzyka systemowe, w tym przewidywane niekorzystne skutki dla dobrostanu fizycznego i psychicznego.
Treści zachęcające do samookaleczenia są niezgodne z naszymi zasadami i usuwamy je, gdy je odkryjemy. W pierwszej połowie 2024 r. usunęliśmy z Instagrama ponad 12 milionów postów dotyczących samobójstw i samookaleczeń, z czego 99% usunęliśmy proaktywnie
Jednak badania przeprowadzone przez specjalistów z Danii wykazały, że zamiast próbować zamknąć sieć samookaleczającą się, algorytm Instagrama aktywnie pomagał w jej rozprzestrzenianiu. Badania wykazały, że 13-latkowie zaprzyjaźniają się ze wszystkimi członkami grupy samookaleczającej się po wejściu w kontakt z jednym z jej członków.
W badaniu stwierdzono, że „sugeruje to, że algorytm Instagrama aktywnie promuje tworzenie i rozprzestrzenianie się sieci samookaleczeń.
Przypomnimy
Właściciel platform Meta Platform Facebooka stanie przed sądem w ramach pozwu Federalnej Komisji Handlu Stanów Zjednoczonych, mającego na celu rozbicie spółki w związku z twierdzeniami, że kupił Instagram i WhatsApp, aby stłumić rosnącą konkurencję w mediach społecznościowych.