Sztuka czy sztuczka? Manipulacja obrazem w czasach sztucznej inteligencji

Ostatnia aktualizacja: 21.03.2024 10:50
Naukowcy z University of Waterloo w Kanadzie przeprowadzili badanie dotyczące autentyczności fotografii. Wynika z niego, że coraz trudniej rozpoznać nam zdjęcia, które są wytworem sztucznej inteligencji.
Kreowane przez sztuczną inteligencję zdjęcia są coraz bardziej realistyczne
Kreowane przez sztuczną inteligencję zdjęcia są coraz bardziej realistyczneFoto: shutterstock/DIA TV
  • Grupa badaczy z kanadyjskiego University of Waterloo opublikowała raport dotyczący autentyczności fotografii.
  • Wynika z niego, że 40 procent z nas nie potrafi odróżnić na zdjęciu prawdziwych ludzi od wytworów sztucznej inteligencji. 
  • O wynikach raportu reporterka Czwórki Martyna Ogonek rozmawiała ze specjalistami. 

Jak wynika z badań przeprowadzonych przez naukowców z University of Waterloo w Kanadzie, 61 procent z nas potrafi odróżnić na zdjęciu prawdziwych ludzi od wytworów sztucznej inteligencji. Naukowcy spodziewali się lepszego wyniku i typowali, że 85 procent badanych pozna fałszywe zdjęcia.

Wynik badania docenia jednak Marcin Kubicki, redaktor naczelny magazynu T3. - Ja jestem szczerze zaskoczony tym, że ten procent rozpoznawalności jest tak wysoki - mówi. - To oczywiście zależy od tego, jakie zdjęcia zostały dokładnie pokazane, komu itd., ponieważ informacje są dosyć szczątkowe. Wydaje mi się, że ten procent rozpoznawalności będzie sukcesywnie malał w stosunku do tego, co się dzieje i w jakim kierunku podąża rozwój sztucznej inteligencji.

Zdjęcia sztucznej inteligencji i badania 

Wiadomo, że badanie wykonano na próbie 260 osób, którym zaprezentowano 20 nieopisanych zdjęć: 10 przedstawiało prawdziwych ludzi, a 10 wygenerowały programy sztucznej inteligencji. Badanych poproszono o oznaczenie każdego obrazu jako prawdziwego lub wygenerowanego przez sztuczną inteligencję.

- Wiemy też, że osoby biorące udział w eksperymencie miały czas na przeanalizowanie zdjęć. To też zwracano uwagę na takie szczegóły, jak zęby czy paznokcie, które faktycznie pierwszym modelom sztucznej inteligencji sprawiały problemy - mówi Bartosz Frąckowiak, ekspert Polskiego Towarzystwa Studiów nad Przyszłością. - Jeszcze kilka miesięcy temu część obrazów generowanych przez AI dało się bez trudu rozpoznać. Gdy przyjrzeliśmy się bliżej, widzieliśmy trochę spotworniałe, kubistyczne twarze, które były rozmazane i złożone z różnych elementów. Tymczasem z każdym kolejnym miesiącem są one coraz bardziej realistyczne, dlatego że modele sztucznej inteligencji coraz szybciej się uczą.

Zobacz także:

Czy gotowe są regulacje w sprawie wykorzystania systemów sztucznej inteligencji?

Dlatego, zdaniem ekspertów, ważne są regulacje takie jak zatwierdzony niedawno przez Komisję Europejską AI Act. Zakłada on między innymi wprowadzenie przepisów wymuszających oznaczanie generowanych przez sztuczną inteligencję obrazów. Otwarte jest jednak wciąż pytanie, jak miałyby być one egzekwowane.

Bartosz Frąckowiak jest zdania, że trzeba to jak najszybciej uporządkować, ponieważ twory sztucznej inteligencji stanowią doskonałe narzędzie manipulacji. - Pod tym względem coraz bliżej nam do rzeczywistości znanej z serialu "Czarne lustro". Wyobrażam sobie, że można by sprowokować np. zamieszki na podstawie wygenerowanego przez sztuczną inteligencję obrazu. Które w bardzo realistyczny, przekonujący sposób przedstawiałyby np. jakiś akt, który uznajemy za całkowicie niedopuszczalny - tłumaczy specjalista. - Coraz częściej mówi się też o deepfake'u, czyli syntetycznie wygenerowanych obrazach przedstawiających np. realnych ludzi, którzy są politykami i celebrytami. Na wygenerowanych materiałach mówią rzeczy, których nigdy nie powiedzieli, albo zachowują się w sposób dla nich zupełnie nietypowy. Taka manipulacja to niestety coraz bardziej realne zagrożenie - przestrzega.


Posłuchaj
04:03 CZWORKA/pierwsze słyszę - sztuczna inteligencja fotki 22.03.2024.mp3 W audycji mówimy o zagrożeniach związanych z wykorzystaniem algorytmów sztucznej inteligencji przy generowaniu zdjęć i filmów (Pierwsze słyszę/Czwórka)

 

***

Tytuł audycji: Pierwsze słyszę

Prowadzący: Kamil Jasieński

Materiał: Martyna Ogonek

Data emisji: 22.03.2024

Godzina emisji: 08.15

aw/mo/wmkor

Czytaj także

Technologia CAPTCHA - czy skutecznie chroni przed ingerencją sztucznej inteligencji?

Ostatnia aktualizacja: 31.08.2023 11:30
Niedawno opublikowany przez University of California raport wskazuje, że boty oparte na sztucznej inteligencji są teraz w stanie "przechytrzyć" technologię CAPTCHA. Co więcej, rozwiązują zadania lepiej i szybciej niż ludzie.
rozwiń zwiń
Czytaj także

Chip w mózgu? Elon Musk i jego rewolucyjny projekt

Ostatnia aktualizacja: 08.02.2024 09:40
Elon Musk po raz kolejny zadziwia świat. Za sprawą projektu jego firmy Neuralink chip w mózgu jest już faktem. Biznesmen ogłosił światu, że sukcesem zakończyła się operacja wszczepienia pierwszego implantu do mózgu człowieka. 
rozwiń zwiń