Prawica

Edgar Cervantes / Android Authoritytl; Dr Gemini jest zbudowany z zabezpieczeniami, aby zapobiec niewłaściwemu użyciu, ale to nie powstrzymuje niektórych złoczyńców finansowanych przez rząd przed próbą użycia go w celu wyrządzenia krzywdy. Zaawansowane trwałe grupy zagrożeń z Chin, Iranu, Korei Północnej i Rosji zostały zidentyfikowane jako uzyskiwanie pomocy od Gemini. Wydaje się, że najczęstszym zastosowaniem Bliźnięta jest badanie celów i pomoc w kodowaniu. Od momentu, w którym potężne modele językowe AI zadebiutowały na scenie, źli faceci szukali z nimi złych rzeczy. Firmy stojące za nimi starają się chronić swoje modele za pomocą zabezpieczeń przed nadużyciami, ale źli aktorzy zawsze wymyślają nowe sposoby na obejście tych barier. W tym tygodniu Google podziela to, co zaobserwowano, jeśli chodzi o Bliźnięta i niektóre dobrze połączone grupy międzynarodowe, które próbują go wykorzystać do paskudnego biznesu. Grupa wywiadowcza zagrożenia Google właśnie opublikowała swój raport na temat niewłaściwego niewłaściwego użycia generatywnej sztucznej inteligencji. Na początek firma identyfikuje dwa główne typy ataków: te, które używają sztucznej inteligencji do pożyczania ręki, takich jak kod generowania, który może być używany do budowania złośliwego oprogramowania, oraz te, które bezpośrednio próbują sprawić, by sztuczna inteligencja wykonywała niechciane działania, takie jak zbieranie danych konta. Słyszymy także o dwóch podstawowych kategoriach przeciwników: zaawansowanych uporczywych zagrożeniach (APT), które zwykle są dużymi grupami hakerów finansowanych z państwa narodowego oraz operacjami informacyjnymi (IO), które bardziej dotyczą oszustwa i bałaganu mediów społecznościowych. Dobrą wiadomością jest to, że ogólnie nikt nie brzmi, jakby szczególnie udało im się zdobyć Gemini do zrobienia czegokolwiek okropnego. Podczas gdy Google widział wiele prób „jailbreak” Bliźnięta, wykorzystując kreatywne instrukcje, aby przekonać je do zignorowania protokołów bezpieczeństwa, większość z nich była dość niska, po prostu powtórzenie publicznie opublikowanych strategii.Zamiast tego największe zastosowanie Bliźnięta przez złych facetów wydaje się być głównie w formie ich użycia jako narzędzia badawczego. Google identyfikuje APTS z czterech krajów jako naprawdę tworzących kręgosłup niewłaściwego użycia: Chiny, Iran, Korea Północna i Rosja. Grupy te korzystały z Bliźnięta do celów takich jak podsumowanie informacji na temat celów wojskowych i wywiadowczych, wyjaśnianie luk w zabezpieczeniach oprogramowania i oferowanie pomocy kodowania. Google widział także aktywność Gemini od grup IO w tych samych narodach, wykorzystując umiejętności AI w tłumaczeniu, pomagając w tonie. Wiadomości, i naprawdę ułatwiają tym grupom brzmieć tak jak ktokolwiek inny niż to, kim są, umożliwiając im działanie potajemnie. Wszystkie to ma tendencję do podkreślenia pewnych fundamentalnych ograniczeń w próbach złagodzenia niewłaściwego użycia AI. Chociaż wydaje się, że Google z powodzeniem uniemożliwił nikomu korzystanie z Bliźnięta do bezpośredniego wyrządzenia szkody, gdy szersze plany można podzielić na dyskretne, niezgodne kroki, źli aktorzy mogą nadal skorzystać z siły sztucznej inteligencji, aby ułatwić swoje prace . Ponieważ pod koniec dnia, do tego został zaprojektowany AI. Pełny raport Google Ground Intelligence Group to dzika lektura, więc sprawdź pełną rzecz, jeśli jesteś ciekawy więcej szczegółów na temat tych trafień i ich trafień użycie gemini.
Masz wskazówkę? Porozmawiaj z nami! Napisz do naszych pracowników na adres [email protected]. Możesz pozostać anonimowy lub uzyskać uznanie za informacje, to twój wybór.