C. Scott Brown / Android AuthorityTL;DR Firma Truepic nawiązała współpracę z Qualcomm, aby zapewnić znak wodny na poziomie systemu dla obrazów AI na urządzeniach Snapdragon. Umożliwi to użytkownikom łatwe sprawdzenie, czy obraz został w całości wygenerowany przez sztuczną inteligencję, czy nawet rozszerzony za pomocą narzędzi AI. Jednakże, aby technologia Truepic była naprawdę skuteczna, trzeba będzie ją zastosować na ogromną skalę. W dzisiejszych czasach generowanie obrazu przy pomocy sztucznej inteligencji jest banalne. Dostępnych jest do tego mnóstwo bezpłatnych systemów, w tym te wbudowane bezpośrednio w telefony z systemem Android, na przykład za pośrednictwem generatora tapet Google Gemini lub AI firmy Samsung. Ponadto narzędzia generatywnej sztucznej inteligencji stają się popularnym sposobem edycji zdjęć, a kluczowym liderem jest tutaj Google Magic Editor. Problem polega jednak na tym, że obecnie trudno jest stwierdzić, czy obraz jest prawdziwy, w całości wygenerowany przez sztuczną inteligencję, czy też po prostu manipulowane za pomocą narzędzi AI. Otwiera to drogę falom dezinformacji, które mogą wyniszczyć społeczeństwo. Od kilku lat w tej kwestii króluje firma Truepic. Oferuje oprogramowanie, które dodaje metadane kryptograficzne do obrazów, identyfikując i śledząc manipulacje AI. Zasadniczo jest to system znakowania wodnego, który bezpiecznie „oznacza” obraz jako wygenerowany przez sztuczną inteligencję lub zmanipulowany przez sztuczną inteligencję, a następnie umożliwia każdemu sprawdzenie tych znaczników. W ten sposób możesz łatwo sprawdzić obraz i powiedzieć: „Ach, to nie jest prawdziwe”, zapobiegając uwierzeniu, że fałszywy obraz jest prawdziwym przedstawieniem rzeczywistości. Dużo mówiłem o tym, jak ważny będzie taki system.
Oryginalny, nieedytowany obraz
AI – manipulacja tym obrazem
Metadane pokazujące manipulację AI Na niedawnym wydarzeniu Qualcomm poświęconym postępom AI miałem okazję zobaczyć system Truepic w akcji. Adam Kerin — wiceprezes ds. marketingu w firmie Truepic i były pracownik Qualcomm — zademonstrował, jak zrobić zdjęcie, a następnie sprawdzić jego etykietę za pomocą Truepic. Następnie dodał do zdjęcia ulepszenie AI i ponownie je sprawdził. Można było zobaczyć zarówno informacje o oryginalnym obrazie, jak i informacje związane z manipulacją AI, co pozwoliło dowiedzieć się nie tylko, że sztuczna inteligencja bawiła się obrazem, ale także dokładnie, co zrobiła. Kerin powiedziała, że może to trwać w nieskończoność, dając w zasadzie bezpieczny dziennik zmian zdjęcia. Szczerze mówiąc, naprawdę fajnie było to zobaczyć i po raz pierwszy poczułem, że manipulowanie obrazami przez sztuczną inteligencję może nie doprowadzić do upadku ludzkości (Tylko trochę żartuję). Niestety, mimo że to demo było świetne, zostało opatrzone ogromną gwiazdką.
Trupic ma przed sobą ciężką drogę
Przeszkodą, przed którą stoi Truepic, jest szeroka dostępność. Aby obraz otrzymał bezpieczny tag, urządzenie i/lub aplikacja, które tworzy/manipuluje/przechwytuje ten obraz, musi obsługiwać Truepic. Dodatkowo system sprawdza ten tag Również musi wspierać Truepic. Na szczęście Truepic i Qualcomm współpracują, aby pokonać tę przeszkodę. W Snapdragonie 8 Gen 3 oprogramowanie Truepic działa w zaufanym środowisku wykonawczym chipa. Umożliwiłoby to oznaczenie obrazu utworzonego/zmanipulowanego na telefonie ze Snapdragonem 8 Gen 3 przez chip, a następnie odczytanie tego tagu przez inny telefon z tym chipem. Jest to znaczący krok, biorąc pod uwagę ogromny udział Qualcomm w rynku, wynoszący miliardy Istnieją telefony z Androidem. Jednakże nadal istnieją istotne ograniczenia. Na przykład, jeśli zrobisz zdjęcie telefonem ze Snapdragonem, a następnie prześlesz je na Instagram (który obecnie nie obsługuje Truepic), nie będziesz miał możliwości sprawdzenia integralności tego zdjęcia na Instagramie. Innymi słowy, prawie każda większa platforma musiałaby obsługiwać Truepic, aby to zadziałało, a to nie lada wyzwanie. Pocieszeniem jest jednak to, że Truepic opiera się na protokole open source. Oznacza to, że jeśli twórcy sprzętu i oprogramowania nie chcą współpracować z Truepic, nadal mogą przyjąć protokół open source i zachować metadane Truepic. Jest to tylko nieco mniej zniechęcające zadanie, ale może przyspieszyć przyjęcie. Partnerstwo Qualcomm i Truepic nie jest nowe, ale integracja systemu Truepic w Snapdragon 8 Gen 3 jest całkiem świeża i została wdrożona dopiero w ostatnich tłoczeniach. Miejmy nadzieję, że z biegiem czasu Truepic stanie się wszechobecny we wszystkich chipach Qualcomma, co powinno mieć kaskadowy efekt i ostatecznie trafi do konkurencyjnych chipów takich firm jak Samsung, Google, MediaTek, a może nawet Apple.
Masz wskazówkę? Mów do nas! Wyślij e-mail do naszych pracowników na adres [email protected]. Możesz zachować anonimowość lub uzyskać uznanie za informacje, to Twój wybór.Komentarze