Künstliche Intelligenz und Internetkriminalität: Neue Gefahren

Von: Verbraucherzentrale Bayern

Mit ChatGPT ist das Thema Künstliche Intelligenz (KI) in der breiten Öffentlichkeit angekommen. Text- und Bildgeneratoren beantworten Fragen, fassen Texte zusammen, erzeugen Bilder, Videos und können sogar in kürzester Zeit Computerprogramme schreiben. Sie bieten jedoch auch Potential für Kriminelle. Wie nutzen sie Künstliche Intelligenz und wie kann man sich vor Angriffen schützen?

Täuschend echte Emails mit KI

Phishing ist kein neues Problem. Mit E-Mails, SMS und gefälschten Webseiten versuchen Kriminelle schon länger Passwörter, Zugangsdaten und persönliche Daten der Adressaten abzugreifen. Mit Hilfe von KI können Nachrichten nun aber in kürzester Zeit erstellt und an tausende Adressat/-innen versandt werden. Dazu werden große Datenmengen analysiert und in der Folge täuschend echte E-Mails generiert. Diese sind nur noch schwer von echten zu unterscheiden.

Über automatisierte Algorithmen können Kriminelle mit Hilfe von Künstlicher Intelligenz zudem das Internet und soziale Medien systematisch nach bestimmten Informationen durchsuchen. Damit können sie dann zielgerichtet Angriffe vorzunehmen, die ganz individuell auf ihre Opfer zugeschnitten sind.

Beispiel „Deepfakes“: Gefälschte Bilder, Stimmen und Videos

Mit Hilfe von Computerprogrammen können nicht nur Texte, sondern auch Bilder und Videos erzeugt und missbräuchlich eingesetzt werden. So können beispielsweise Videos erstellt werden, in denen man scheinbar reale Personen Dinge tun oder sagen lässt, die nicht der Realität entsprechen. Man nennt sie auch „Deepfakes“. Berühmte Beispiele sind ein Foto des Papstes in einer weißen Daunenjacke mit Rapper-Kruzifix sowie ein Foto, auf dem eine Festnahme des ehemaligen US-Präsidenten Donald Trumps dargestellt ist. Solche „Deepfakes“ verunsichern und bergen nicht nur die Gefahr, dass falsche Informationen verbreitet werden, sondern auch, dass man nicht mehr zwischen echten und gefälschten Informationen unterscheiden kann.

Gezielte Desinformationskampagnen können die Meinungsbildung von Verbraucherinnen und Verbrauchern beeinflussen und auch das Konsumverhalten kann durch gefakte Produktbewertungen oder Werbevideos manipuliert werden. Ein Fake-Video, indem beispielsweise ein Prominenter ein Produkt bewirbt und eine vermeintlich authentische Empfehlung abgibt, kann dazu führen, dass das Produkt nur aufgrund dieser gefälschten Empfehlung gekauft wird. „Deepfakes“ können somit dazu führen, dass Betroffene ihr Vertrauen in Medien und Märkte verlieren.

Beispiel „Fake-Anrufe“ mit täuschend echten Stimmen

Daneben besteht die Möglichkeit, Audiodateien zu manipulieren. Mit Hilfe von Künstlicher Intelligenz können Stimmen täuschend echt imitiert werden, die sich nur schwer als Fälschung entlarven lassen. Dazu werden Stimmsequenzen, z.B. aus einem Videoausschnitt im Internet oder aus einer längeren Sprachnachricht, benötigt. Mit diesen vermeintlich echten Stimmen von Angehörigen oder Freund/-innen können Betrüger/-innen schlimmstenfalls Schockanrufe tätigen, um z.B. von ihren Opfern Geld zu erpressen. Hier kann ein unter Freund/-innen und Verwandten vereinbartes Code-Wort helfen, solche Anrufe zu entlarven.

Was können Sie tun, um sich vor Internetkriminalität durch KI zu schützen?

• Bleiben Sie kritisch! Gefälschten Nachrichten und Webseiten können Sie auf die Spur kommen, indem Sie Quellen, Fakten und deren Aktualität prüfen. Kontrollieren Sie beispielsweise, ob die Nachrichten oder das Video auch auf seriösen Nachrichtenseiten zu finden sind. Nutzen Sie Faktencheck-Portale, wie den "Faktenfuchs" des Bayerischen Rundfunks oder den dpa-Faktencheck . Prüfen Sie immer, ob der Inhalt wirklich Sinn ergibt. Stehen die Aussagen oder das Verhalten einer Person beispielsweise im Gegensatz zu dem, was sie üblicherweise sagt und tut? Dann kann es sich um einen Fake handeln.
  Das Bundesamt für Sicherheit in der Informationstechnik (BSI) erklärt technische Hintergründe von „Deepfakes“ und gibt Hinweise, woran man gefälschte Videos und Audiodateien erkennt.

• Klicken Sie keinesfalls ungeprüft Links an, die Ihnen unaufgefordert per E-Mail, SMS oder über soziale Netzwerke übermittelt werden. Lassen Sie sich die E-Mail in reiner Textformatierung anzeigen, indem Sie HTML deaktivieren. URLs und E-Mail-Absenderadressen können gefälscht werden und sind generell nicht vertrauenswürdig. Geben Sie sensible Daten, wie Zugangsdaten oder gar Bankdaten, niemals an Unbekannte weiter und prüfen Sie im Zweifelsfall genau, wer die Daten warum anfordert.

• Sollten Sie Opfer eines Phishing-Angriffs geworden sein, ändern Sie Ihre Passwörter und sperren Sie Ihr Bankkonto.

• Geizen Sie mit Ihren persönlichen Daten! Fotos, Videos, Texte oder Nutzerdaten – je mehr persönliche Daten Sie von sich preisgeben, desto mehr Daten von Ihnen können gesammelt und ausgewertet werden. Bedenken Sie auch: Was einmal im Internet steht, bleibt dort in der Regel auch. Geben Sie niemals sicherheitsrelevante Daten per E-Mail, SMS oder am Telefon weiter.

• Verwenden Sie starke Passwörter! Nutzen Sie für jeden Online-Dienst ein anderes und sicheres Passwort. Passwort-Manager helfen, sichere Passwörter zu generieren und den Überblick zu behalten.

• Führen Sie regelmäßig Updates an Ihren Geräten durch, um Sicherheitslücken zu schließen.