Diese Risiken gilt es bei ChatGPT und Co. zu beachten
Wer generative KI-Modelle nutzt, sollte sich deren Risiken bewusst sein. In einem Merkblatt listet Swico sieben Fallstricke auf und sagt, wie ChatGPT und Co. gewinnbringend und verantwortungsvoll eingesetzt werden können.
![(Source: gmast3r / iStock.com)](https://data.netzwoche.ch/styles/np8_full/s3/media/2024/01/17/gmast3r-istock.com-679839590_preview.jpg?itok=ieIq_Zcg)
Seit der Veröffentlichung von ChatGPT tauchen am laufenden Band neue Anwendungen in Zusammenhang mit generativer künstlicher Intelligenz auf. Doch Gen-AI-Anwendungen bringen auch Risiken mit sich, wie der Swico ausführt. Die Applikationen können etwa "täuschend echt wirken und Menschen in die Irre führen oder sogar manipulieren", warnt der Branchenverband.
Sieben Fallstricke
Mit einem Merkblatt (PDF) will der Swico nun praxisnahe Orientierungshilfen für den ethischen Einsatz solcher Technologien bieten. Darin führt der Verband sieben Schlüsselfallstricke in Zusammenhang mit Gen-AI-Anwendungen auf, sowie dazu passende Lösungsansätze, um diese Anwendungen gewinnbringend und verantwortungsvoll einsetzen zu können.
Wer Gen-AI-Anwendungen nutzt oder solche anbietet, sollte demnach folgendes beachten:
-
Wahrheitsgehalt prüfen: Generierte Inhalte immer auf ihre Richtigkeit überprüfen, da sie auf Wahrscheinlichkeiten basieren und fehlerhaft sein können.
-
Vorurteile erkennen: Auf Stereotypen und Verzerrungen in KI-generierten Inhalten achten, um Diskriminierung zu vermeiden.
-
Inhaltsfilter verstehen: Wissen, dass KI-Tools Inhaltsfilter haben, aber diese nicht unfehlbar sind und umgangen werden können.
-
Transparenz bei Kommunikation: Sicherstellen, dass Nutzerinnen und Nutzer verstehen, dass sie mit einer KI und nicht einem Menschen interagieren.
-
Gegen Manipulation schützen: Vorsicht bei realistisch wirkenden KI-Inhalten, um Desinformation und Täuschung zu vermeiden.
-
Datenschutz gewährleisten: Sensible und persönliche Daten schützen und Vorsicht bei der Eingabe solcher Daten in KI-Systeme.
-
Urheberrechtsfragen beachten: Sich der komplexen Urheberrechtssituation bei KI-generierten Inhalten bewusst sein und angemessen handeln.
Im Global Risks Report 2024 führt das World Economic Forum KI-generierte Fehlinformation als eines der grössten Risiken der nächsten Jahre auf. Mehr dazu lesen Sie hier.
Derartige Tools bieten auch Cyberkriminellen viele Möglichkeiten. In einem gemeinsamen Webinar gingen Netzmedien und Check Point der Frage nach, was ChatGPT für die Cybersicherheit bedeutet. Lesen Sie hier mehr dazu.
![(Source: Pawina / stock.adobe.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/proton_wallet_2024.jpeg?itok=cfViQUYL)
Proton startet mit Kryptowallet
![(Source: DC Studio/Freepik.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/ransomware.jpg?itok=Ke4dCDqV)
Angreifer nehmen kritische Infrastrukturen ins Visier
![(Source: freshidea - stock.adobe.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/02/adobestock_416609395.jpeg?itok=lzCTG-o-)
Erfolgreiche Co-Creation im Digital Banking dank Design Thinking
![(Source: Kasia Derenda / unsplash.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/kasia-derenda-fl3rf_t8dms-unsplash.jpg?itok=72tLCDjs)
Phisher phishen am liebsten mit Microsoft
![Jean-Pierre Mustier übernimmt als neuer CEO bei Atos. (Source: Atos.net)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/mustier_atos.jpg?itok=c11BX9xf)
Atos ernennt nächsten CEO
![G.V. Shivashankar entwickelt derzeit am PSI verschiedene Verfahren zur Diagnose und Prognose von Krebs. (Source: Paul Scherrer Institut PSI/Markus Fischer)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/web20231116_shivashankar_0048.jpg?itok=zfzwJ7s8)
KI-Bildanalyse kann Brustkrebs-Stadium besser identifizieren
![(Source: NOAA / Unsplash)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/google_wetter-ki_2024.jpg?itok=3ZIDlofC)
Google vereint KI und Physik für Wettervorhersagen
![(Source: OrsiO / Pixabay.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/webcat-636172_1280.jpg?itok=4c5VDYw5)
Wenn orangene Katzen Unsinn veranstalten
![Rolf Unterberger, Mitglied des Verwaltungsrats, gratuliert Chief Sales Officer Gianni Mastromarino mit einem Pokal (v.l.). (Source: zVg)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/25/pokaluebergabe_cmyk.jpg?itok=8-ERumlE)
Assmann IT-Solutions feiert 15-Jahre-Jubiläum
![(Source: Micha Brändli / unsplash.com)](https://data.netzwoche.ch/styles/teaser_small/s3/media/2024/07/26/micha-brandli-xteagvru_1u-unsplash.jpg?itok=YakH3APY)