Ich möchte sagen: es vergeht kein Tag, an dem nicht Papier mit falschen Fundstellen ein Gericht nicht erreicht oder verlässt und das war auch schon vor KI so.

Außerdem behaupten Anwält:innen (eher allerdings als Richter:innen) falsche Inhalte zu echten Fundstellen. Immer schon.

Der Großvater meiner größeren Hälfte hat das in dein 1950ern praktiziert und dafür sogar eine Liste mit Entscheidungen gehabt, die für jede mögliche Behauptung herhalten mussten entwickelt.

2/n

Ergänzend: (jedenfalls in der ersten Instanz) muss Anwältin übrigens weder ein einziges rechtliches Argument führen noch irgendwelche Paragrafen zitieren.

Das könnt ihr unter den Schlagwörtern "daha mihi facta, dabo tibi ius" bzw. "curia novit ius" finden.

> "… lügen über ihren Inhalt."

Nennt sich das heutzutage nicht "Alternative Realität", Lügen ist doch soo Oldschool!

Für mich ein Grund, Jura zu studieren: denn in den Geistes- und Gesellschaftswissenschaften wurde ich dafür gemobbt, daß ich nicht nur gewissenhaft allen Quellenangaben nachging, sondern auch die Kontexte überprüft habe, um sagen zu können, wo Autor*innen sich geirrt haben.

Vllt sollte ich doch noch in die Juristerei wechseln ... wäre mal schön, wenn meine detailverliebte Hartnäckigkeit einen direkten Nutzen hätte.

Das kenne ich. Gern wird auch was verwendet, was inhaltlich zwar korrekt ist, aber zum aktuellen Fall gar keinen Bezug hat.

Aktuell bei unserem Verein in der Bildabmahnung ein Urteil, wonach auch ein Werk mit niedriger Schöpfungshöhe einen hohen Streitwert haben kann. Allerdings hatte der Verletzer das für kommerzielle Werbung genutzt, also eben ganz anders.

Wenn ich mir das so angucke, was das LG Humbug alles behauptet oder trotz Widerspruch durchgehen lässt, dann bin ich mir auch sicher, dass das von AI Slop nicht unterscheidbar ist.

Ich würde sagen, wer als Anwalt sich bewusst dafür entscheidet, den juristischen Aussagegehalt einer Fundstelle zu entstellen, dann ist das ein direkter Verstoß gegen § 1 BRAO. Je nach Schwere sollte das bis zum befristeten Berufsverbot gehen.

Sensitiver Inhalt Zum Öffnen/Schließen klicken

Ich kann dem Gedankengang des Threads im ganzen nicht folgen, denn gerade als Juristin sollte dir klar sein, wer für Fehler und bewusste Lügen verantwortlich gemacht werden kann und was nicht.

Wenn ein Anwalt lügt, wird es für ihn Konsequenzen haben. Er nimmt diese entweder bewusst im Kauf oder vermeidet in Zukunft sein Fehlverhalten. Dafür gibt es genügend gesetzliche Mittel.

Einem Algorithmus kann man sowas nicht bewusst machen. Dieser macht es immer wieder falsch. Er ist in seiner Form immanent fehlerhaft. (und nein Trainings helfen da nicht). Was ist also die Konsequenz für eine KI, die immer wieder Fehler machen wird, immer wieder falsch arbeitet? Eigentlich wie bei einem Anwalt, oder? Entzug der Zulassung.

🤷

ist das irgendwo nachgewiesen oder nur eine Behauptung: "Alle Akteure erfinden Fundstellen; immer schon!"

Deise Kapitulation vor KI bullshit ist echt peinlich.
Die grünen müssen jetzt also auch das Lied der Techfaschisten zur Verantwortungsdiffusion mitpfeifen. Sehr informativ.

Wir haben in der akademischen Welt ein ähnliches Problem mit halluzinierten Zitaten von wissenschaftlichen Veröffentlichungen.

Ich sehe aber da einen qualitativen Unterschied zwischen einer Falschaussage über den Inhalt einer Quelle und einer Falschaussage über die Quelle selbst. Eine Falschaussage über eine Quelle kann schnell widerlegt werden indem man bei der Quelle nachliest, das ist oft auch mit nur einem Mausklick möglich.

Wenn man die Quelle nicht finden kann, ist das ein ganz anderes Problem. Existiert die Quelle wirklich nicht oder ist man nur nicht in der Lage, diese zu finden? Auch elektronische Datensätze von Veröffentlichungen oder Urteilen enthalten mitunter Fehler und sind auch regelmäßig nur als Best-Effort-Angebot von irgendwelchen kommerziellen DIenstleistern verfügbar.

Der Aufwand, den komplett halluzinierte Referenzen auf Empfängerseite erzeugen, ist ungleich größer als eine Falschaussage über den Inhalt der Referenz.

"Jura-KI erfindet Fundstellen"

=> Menschen finden es nicht ok, dass eine KI "lügt".

Aber diese Beschwerde geht nicht klar, weil im Jura-Bereich ja sowieso schon von Menschen gelogen wird?

Auch wenn die Kritik von "Nichteingeweihten" einem Jura-Profi ungelenk vorkommen mag, weil ja "sowieso gelogen wird":

Ich finde es ganz normal und menschlich, dass man systematisches Lügen ablehnt. Und umso mehr, wenn es durch KI-Nutzung jetzt auch noch verstärkt wird.

@AwetTesfaiesus

Ziemlich irritierender Take für eine Bundestagsabgeordnete: "Lügen ist okay".

Eventuell magst Du Deinen Take nochmal hinterfragen.

Das Prinzip gilt auch für die meisten anderen Wissenschaften, selbst MINT-Fächer:

Paper werden ungelesen zitiert.
Einzelne Titel bekommen so eine riesige Zahl an Zitaten zusammen, ohne im Ansatz die wissenschaftliche Grundlagen zu liefern.

Das schaukelt sich dann schnell auf, getreu dem Mott:

"Das wurde so oft zitiert, das muss gut sein".

Das ist nicht das Gleiche.
Entscheidender Unterschied: Eine Anwältin *kann sich dafür entscheiden*, nicht zu lügen (und wird das in der Regel auch tun) - die KI kann das nicht.
Ein Anwalt *kann* durch Konsequenzen dazu motiviert werden, nicht zu lügen - für die KI gilt das nicht.

Die von Dir beschriebene Situation (die ich nicht anzweifle) braucht nicht weniger Kritik an KI, sondern mehr an Anwälten.

Der Kollege hier hat meinen Punkt möglicherweise besser gemacht. Ich denke, er sieht es ähnlich, wie ich:

INSTA:
instagram.com/reels/DTFw8Y4lJ2…

YT:
youtube.com/shorts/3ro8TFTmYyA

Also gut, nachdem es jetzt so oft auf dieselbe Weise missverstanden wurde, lag es offensichtlich an meinem missglückten Einrahmung:

Ich empfinde den Vorhalt der "von KI erfundenen Fundstellen" als praktizierte Bigotterie. Er rückt den status quo nämlich in ein besseres Lichte als er es verdient.

Ich hoffe, ich konnte das klarstellen.

Ich bin mit dieser Kritik m.E. auch nicht allein: instagram.com/reels/DTFw8Y4lJ2…