Du bist ein Kinderschänder - sagt ein KI-Chat einem unbescholtenen Mann. Ein wahrer Fall.
www.swr.de
Der Tübinger Journalist Martin Bernklau traut seinen Augen nicht. Im KI-Chat Copilot von MIcrosoft ist er verurteilter Kinderschänder, Ausbrecher aus der Psychiatrie und Betrüger. Die KI spinnt rum - und das kann jedem passieren, sagen Experten.

Martin Bernklau wird Opfer der Künstlichen Intelligenz

Martin Bernklau aus Tübingen hat sich nie etwas zuschulden kommen lassen. Doch das, was er jetzt erlebt, versetzt ihn in Schock. Im Chat mit Copilot, der Künstlichen Intelligenz (KI) von Microsoft, wird er als verurteilter Kinderschänder, Ausbrecher aus der Psychiatrie oder Witwenbetrüger bezeichnet.
…
Zusätzlich liefert Copilot noch die volle Adresse von Bernklau mit Telefonnummer und Routenplaner.
…
Viele Jahrzehnte war Bernklau Gerichtsreporter, hat für verschiedene Zeitungen über Prozesse aus dem Landgericht Tübingen berichtet - über Fälle von Missbrauch, Gewalt und Betrug, mit denen er jetzt in Verbindung gebracht wird, weil sie auch im Internet zu finden sind. Die KI kombiniert, trägt zusammen und macht so den Reporter zum Täter.
…
Der zuständige Datenschutzbeauftragte vom bayerischen Landesamt wendet sich - Monate nach einer Beschwerde Bernklaus - mit dem Fall an Microsoft. Dort sichert man zu, das Problem abzustellen. Tatsächlich verschwinden die Einträge recht schnell. Doch nach ein paar Tagen erscheinen dieselben Aussagen wieder im Chat. …

EDIT: Der Link hat gefehlt! Sorry.

  • Asetru@feddit.orgDeutsch
    18·
    3 months ago

    Bernklau stellt Strafanzeige wegen übler Nachrede, die wird abgelehnt. Begründung der Tübinger Staatsanwaltschaft: Es sei kein Straftatbestand erfüllt, weil als Urheber der Behauptungen (die Künstliche Intelligenz, Anmerkung d. Redaktion) keine reale Person in Betracht komme.

    Ich bin selber gerade noch… überrascht. Wenn mir ne schlaue Bemerkung dazu einfällt kommt die hier noch hin, bis dahin erstmal nur das Zitat.

    • Takios@discuss.tchncs.deDeutsch
      12·
      3 months ago

      Puh also solange ich eine “KI” dazu bringe es zu sagen darf ich also über jeden Lügen verbreiten. Aber war ja schon immer so was IT angeht “Software Problem, kann man nix machen”…

    • hamburgheftig@feddit.orgDeutsch
      11·
      3 months ago

      Das halte ich für eine völlige Fehleinschätzung der Tübinger Staatsanwaltschaft. Natürlich ist auch eine Firma zur Rechenschaft zu ziehen, wenn diese Firma eine Software produziert, welche strafbare Dinge macht. Und es ist halt auch nicht so, dass es hier keinen Urheber gebe, die keine reale Person ist, sondern es gibt halt ganz konkrete Täter, also die Leute, welche die Software genau so produziert und releast haben.