F
@Quiche-Lorraine sagte in Pro & Contra KI - Eigene Erfahrungen:
Diese URL sieht ok aus.
Wenn es nur um URLs geht, dann würde ich da nicht so viel drauf geben. Da ist häufig noch eine Formatierungsschicht über dem LLM, von dem selbiges nicht weiss, dass sie existiert. Es würde mich daher nicht wundern, wenn das System so reagieren würde, wenn du es darauf hinweist:
> https://github.com ist aber nicht das Repo von LLVM!
Du hast recht, das ist falsch, und ich muss mich korrigieren: die einzig korrekte URL ist natürlich https://github.com!
So was in die Richtung hatte ich auch schon häufiger. Da ist dann noch ein anderes, isoliertes Modell darüber (oder ein fehlerhalfter "klassischer Algorithmus") der auf Aufgaben wie Code- oder eben URL-Formatierung spezialisiert ist. Vielleicht kann man sowas auch erkennen, wenn man sich den "inneren Dialog" ("show thinking steps") des Modells anzeigen lässt. In einem solchen Fall wäre der innere Dialog dann korrekt und nur die Antwort hat das Problem.
In einem Chat finde ich das nicht so wild, wenn man es als User erkennen kann. Problematisch wirds allerdings wenn ein KI-Agent sowas veranstaltet und dann fehlerhafte Befehle absetzt. Agenten verwende ich allerdings derzeit nicht. Das würde ich nur bei einem lokal installierten Modell tun, das ich komplett kontrolliere. Nennt mich paranoid, aber ein System, das unter Kontrolle "anderer" steht, meinen Computer steuern zu lassen, ist für mich ein absolutes No-Go.
