Unser "keine Rechtsberatung"-Ansatz macht Schule

[Schnitte]

OpenAI hat diese Woche bekanntgegeben, dass ChatGPT nunmehr keine Rechtsberatung mehr erteilen, sondern entsprechende Fragesteller an qualifizierte Anwälte weiterverweisen wird. Es wird aber weithin angenommen, dass man durch geschickte Umformulierung der Frage (insbesondere Abstreiten, dass es sich um einen konkreten Fall handle) diese Einschränkung wird jailbreaken können.

Na, kommt uns das nicht bekannt vor?

https://www.artificiallawyer.com/2025/1 ... it-really/

[Julia]

Endlich der Beweis, dass wir auch ohne KI schlau sind!

[Schnitte]

Und schon vor vielen Jahren waren!

[Gürteltier]

Wenn das genau so gut funktioniert wie das Unterdrücken der Generierung von Windows Keys…

Aber es ist ja eine ganz spannende Frage, ob das eigentlich zielführend ist. Man nutzt ja die KI quasi als Äquivalent zum früheren “Symptome Googlen”, nur dass die Qualität der Antworten besser ist. Viele der Nutzer hätten so oder so keinen Anwalt beauftragt oder einen Arzt aufgesucht etc.

Ich vermute hier besteht ein wenig Angst vor einer möglichen Haftung?

Das Kernproblem ist hier mE eben mal wieder, dass Leute sich nicht der Limitationen und Funktionsweise der KI bewusst sind. Ich habe auch mal einen Ausschlag von ChatGPT analysieren lassen. War ganz lustig (und ein befreundeter Assistenzarzt meinte, die Antwort war soweit sogar “ganz in Ordnung”), aber ich hätte das ja niemals für etwas Ernstes genutzt.

[thh]

Man nutzt ja die KI quasi als Äquivalent zum früheren “Symptome Googlen”, nur dass die Qualität der Antworten besser ist.

Strittig.

[Schnitte]

Es heißt zwar allenthalben, dass man KI nicht als Suchmaschine nutzen soll, aber in der Praxis tun wir das dann doch alle, und meist taugen die Ergebnisse auch was. Ein Beispiel: Erst kürzlich musste ich als handwerklich mit zwei linken Händen Ausgestatteter an einem Schrank in meiner Wohnung das Möbelschloss wechseln. Ich hab's also abgeschraubt, hatte aber keine Ahnung, nach welchem Ersatzprodukt ich im Baumarkt suchen muss, damit das dann auch passt. Also Foto gemacht, bei ChatGPT mitsamt Hintergrundinformationen hochgeladen und gefragt. Es kam eine super brauchbare Antwort: Unter welchem Namen diese Dinger im Handel sind ("Aufsteckschloss") und welche Maße ich genau ausmessen muss, damit das Ersatzteil passt. Damit bin ich in den Baumarkt gezogen und habe das richtige Ding gefunden. "Früher", also prä-ChatGPT, bin ich mir nicht sicher, ob ich das durch bloßes Googlen rausgefunden hätte. Zumindest hätte es deutlich länger gedauert.