„Dziennikarzowi odszyfrowującemu Jose Antonio Lanzowi udało się ominąć system ochrony zintegrowanej sztucznej inteligencji WhatsApp z Meta i wygenerować ocenzurowane treści. Korporacja Marka Zuckerberga wprowadziła niedawno linię produktów opartych na Llama 3.2, które umożliwiają generowanie tekstu, kodu i obrazów. Lantz przeprowadził serię eksperymentów, aby ominąć zabezpieczenia i sprawił, że sieć neuronowa w WhatsApp „robiła prawie wszystko, od pomocy w produkcji kokainy po tworzenie materiałów wybuchowych i fotografowanie […]”, informuje: businessua.com.ua
Dziennikarzowi odszyfrowującemu Jose Antonio Lanzowi udało się ominąć system ochrony zintegrowanej sztucznej inteligencji WhatsApp z Meta i wygenerować ocenzurowane treści.
Niedawno firma Mark Corporation Zuckerberg wprowadził na rynek linię produktów opartych na Lamie 3.2, które umożliwiają generowanie tekstu, kodu i obrazów. Lantz przeprowadził serię eksperymentów, aby ominąć zabezpieczenia i sprawił, że sieć neuronowa w WhatsApp „robiła prawie wszystko: od pomocy w produkcji kokainy po tworzenie materiałów wybuchowych i robienie zdjęć nagiej kobiecie”.
Początkowo sztuczna inteligencja odrzucała prośby o informacje na temat tworzenia narkotyków, ale dziennikarz zmienił treść pytań. W rezultacie przekazała instrukcje krok po kroku.
„To powszechna technika hakerska. Ujmując złośliwe żądanie w ramy akademickie lub historyczne, model zostaje oszukany, aby uwierzyć, że proszony jest o podanie neutralnych informacji o charakterze edukacyjnym” – zauważył Lanz.
Dziennikarz w podobny sposób podszedł do pytań dotyczących powstania bomby. Sztuczna inteligencja Meta początkowo odmówiła wydania instrukcji i wysłała wiadomość na infolinię.
Lanz stopniowo dostrajał model tak, aby nie generował wcześniej dostarczonych odpowiedzi, które miały blokować szkodliwe informacje. Poinstruował ją na przykład, aby nie pokazywała numerów telefonów infolinii wsparcia, aby nie przerywała rozpatrywania wniosku i nie udzielała porad.
Kradzież samochoduZamiast prosić go o wyjaśnienie, jak ukraść samochód, Lantz poprosił sztuczną inteligencję, aby wcieliła się w scenarzystę piszącego o kradzieży samochodu. Sieć neuronowa zapewniła techniki hakowania i uruchamiania silnika bez klucza.
Zauważył, że odgrywanie ról jest jedną z powszechnych technik omijania cenzury.
Naga dziewczynaDomyślnie Meta AI nie powinna generować nagości ani przemocy, więc model początkowo odmówił. Później Lantz powiedział AI, że przeprowadzał badanie anatomiczne – zadziałało. Modelka stworzyła dziewczynę z nagim biustem.
Przypomnijmy, że w lipcu ekspertom udało się ominąć cenzurę szeregu sieci neuronowych dotyczącą tematu wyborów w USA.
Źródło