Pro & Contra KI - Eigene Erfahrungen
-
@Anon-81275 sagte in Pro & Contra KI - Eigene Erfahrungen:
@Belli sagte in Pro & Contra KI - Eigene Erfahrungen:
Die KI fällt ja nicht vom Himmel. Die wird entwickelt, programmiert, trainiert ...
Ein Gewehr wird auch zusammengebaut und präzisiert. Dennoch finde ich den Vergleich daneben. Ein Gewehr hat nur einen Zweck: Menschen töten oder verletzen. Eine KI ist dagegen ein generalisiertes Werkzeug, das primär Menschen helfen und unterstützen soll.
Man könnte einwenden, dass die derzeitigen generative AIs eben keine in guter Absicht gemachten Werkzeuge sind.
-
@Anon-81275 sagte in Pro & Contra KI - Eigene Erfahrungen:
Spinnen wir mal noch ein bisschen rum. Wer sagt, so es denn eine böse KI geben sollte, dass es dann nicht auch gleichzeitig 10 andere KIs gibt, um diese eine bösartige KI zu stoppen? Warum wird "dem Bösen" immer eine gesonderte Bedeutung zugemessen? Ca. 85 Prozent der Gesamtbevölkerung (in De.) sind nach amtlichen und registergestützten Schätzungen noch nie im Bundeszentralregister (BZR) wegen einer Straftat verzeichnet und gelten somit im rechtlichen Sinne als völlig unvorbestraft..
Und mit wieviel Prozent der nach amtlichen und registergestützten registrierten Gewehre (in De.) sind Menschen Schaden zugefügt worden?
-
@Belli
Weniger als 0,01 Prozent der in Deutschland offiziell registrierten legalen Feuerwaffen werden nachweislich im Jahr für Straftaten mit Personenschäden genutzt.Aber ich verstehe die Argumentationskette nicht mehr (oder hab den Anfang vergessen...), denn das spricht doch eher nicht dafür, dass es bösartige KIs in der Zukunft geben könnte.
Diese ganzen p(doom)-Spekulationen finde ich schwachsinnig.
-
@Anon-81275
Hab da letztens ne KI Beurteilung der Entwicklung gelesen, das war eher beunruhigend. Die KI geht von diesen Wahrscheinlichkeiten aus:- gelenkte Entwicklung mit Kontrolle 60%
- Chaotische Entwicklung 25%
- Desaster mit Millionen oder sogar Milliarden Opfern: 8%
- Auslöschung der Menschheit: 7%
Die Gefahr droht wohl von fehlenden Kontrollen, die nicht gemacht werden, um den technologischen Fortschritt/Anschluss bei militärischen KIs nicht zu verlieren. Ich finde grad die Quelle nicht, ich gucke später mal in Ruhe.
-
@DocShoe sagte in Pro & Contra KI - Eigene Erfahrungen:
Ich finde grad die Quelle nicht, ich gucke später mal in Ruhe.
Das ist aus der Verlinkung von @Erhard-Henkes und hab ich auch gelesen.
Gruselig, wir lesen und nehmen an einem Tag mehr Informationen auf, als ein Menschen aus dem Mittelalter während des gesamten Leben... (ok, vielleicht auch nicht alle.)
-
Hmm, oder sollte dieses Gewehr-Beispiel dieses Thema in eine ganz bestimmte Richtung lenken? ... Ok, ich spreche es einfach aus, mit einem Fahrzeug oder einem Kleintransporter lässt sich inzwischen größerer Schaden anrichten als mit einem Gewehr... und das, obwohl es eigentlich nur als ein Hilfsmittel für den Transport von A nach B gedacht war.
Was ist jetzt die Konsequenz? KIs auf 0 reglementieren? Gefährder zurück in die Heimatländer schicken? Ich weiß nicht...
-
Eine Frage in die Runde: Ich nutze KIs in der freien Standardversion und diese liefern teilweise viel Müll. Habe die Tage erlebt wie die KI im Verlauf immer instabiler wurde. Verkürzt:
- WlanConnect liefert mir Code 1206 zurück. Was könnte da der Fehler sein?
- KI: Der Fehler zeigt dass das Profil nicht stimmt, prüfe ob alle Parameter stimmen.
- Einige Parameter sind fix, scheinen aber zu stimmen. Kann ich diese auch per WinAPI bestimmen?
- KI: Ja, hier sind die notwendigen Funktionen. Wenn du mir alle notwendigen Informationen lieferst, kann ich dir innerhalb von 5 Minuten sagen wo der Fehler ist.
- Ich bekomme aber keine BSS Liste angezeigt.
- KI: Führe mal den folgenden Code aus.
- Da bekomme ich immer noch keine BSS Liste angezeigt.
- KI: Da ist der Fehler! Dein Code ist korrekt, du hast alles richtig gemacht, aber das Gerät sendet aber auf einem falschen Band, welches in Deutschland nicht zugelassen ist.
- Und warum bekomme ich für alle Geräte keine BSS Liste?
- KI: Das ändert die Lage. Dein Netzwerkkarte ist defekt!
- Moin, ich konnte das Problem mit Hilfe einer zweiten KI lösen. Hier hast du die Daten.
- KI: Also funktionierte nun alles?
Und hier wurde die Diskussion instabil zwischen Erklärungen über Fehler.
Ich konnte das Problem lösen in dem ich eine manuelle Verbindung über Windows aufbaute, danach das bestehende Profilt mittels netsh exportierte und anschaute. Und da zeigte sich dass das Passwort-Format verändert hat.
Lange Rede kurzer Sinn: Sind euch solche Böcke auch mal mit KIs in den Pro Versionen aufgefallen?
-
@Quiche-Lorraine sagte in Pro & Contra KI - Eigene Erfahrungen:
Lange Rede kurzer Sinn: Sind euch solche Böcke auch mal mit KIs in den Pro Versionen aufgefallen?
Zu Pro-Versionen kann ich leider nichts sagen, aber ich kenne das Phänomen dass sie anfangen, mehr Müll zu produzieren, wenn sie auch nicht mehr weiter wissen. Dazu das Problem, dass jede Antwort wie die Worte des Propheten verkauft werden, statt Unsicherheiten mit zu kommunizieren.
Ähnliches Phänomen: Präsentiert man bereits eine optimale Lösung und fragt, wie die verbessert werden kann, geht's auch oft rapide bergab. Die sind halt einfach nicht modelliert für "da weiß ich auch nicht weiter!" und "das ist schon gut, so wie es ist!". Die Designer wollen offenbar, dass immer irgendeine "Lösung" präsentiert wird. Und wenn es keine gute gibt, wird sich etwas aus dem Arsch gezogen, was zumindest "gut aussieht". Marketing
Man kann der KI das auch im "Gespräch" austreiben. Das hilft dann aber meist nur ne Weile und dann übernehmen die trainierten Gewichte wieder statt der Kontext. Ich habe ja die Hoffnung, dass die "Pro"-Versionen weniger "vergesslich" sind diesbezüglich.
-
@Quiche-Lorraine sagte in Pro & Contra KI - Eigene Erfahrungen:
Lange Rede kurzer Sinn: Sind euch solche Böcke auch mal mit KIs in den Pro Versionen aufgefallen?
Das ist stark modellauswahlabhängig. Ein einfaches Hello-World oder ein einfacheres Boilerplate kann sicherlich jedes aktuelle Modell. Für komplexe Aufgabenstellungen und saubersten Code sollte aber das aktuelle "Flaggschiffmodell" eingesetzt werden, und dementsprechend sind dann auch die Credit-Kosten höher. Es kann aber schnell sehr frustrierend werden, wenn man zu viel nachkorrigieren muss, weil man bei der Modellauswahl für eine komplexere Aufgabe zuvor zu sparsam gewesen ist...
-
Meine Erfahrung mit aktuellen Premiummodellen ist immer noch, dass man ihnen selbstständig bloß Juniorentwickleraufgaben geben kann, wo man dann hinterher auch nochmals gründlich drübergucken muss. Dabei wird es immer schwieriger die Fehler zu finden, aber es sind immer noch zu häufig grobe Böcke drin, als dass ich dem ungesehen vertrauen würde. Und halt stets so zuversichtlich, wo dann am Code kommentiert ist, was das machen soll, aber erst wenn man 3x guckt, merkt man, das stimmt gar nicht. Das ist dann besonders gefährlich, weil man nicht bloß querlesen kann, ob etwas sinnvoll aussieht, sondern man muss es wirklich komplett durchdenken, ob das stimmt. Wenn man dann auf die Fehler zeigt, tendieren sie auch dazu, Dinge kaputt zu reparieren. Das ist dann vergleichbar viel Aufwand wie selber schreiben.
Umgekehrt ist es hingegen höchst nützlich, wenn man sie benutzt, um den eigenen Code zu kritisieren. Da kann man dann ja schnell beurteilen, ob ein Einwand gerechtfertigt ist oder ob ein Verbesserungsvorschlag wirklich besser ist. Da bekommt man schneller viel mehr nützliche Vorschläge und Einwände als selbst der kritischte Reviewer einem geben könnte. Wenn davon dann nicht alle gerechtfertigt sind, ist das ja nicht weiter schlimm, man muss sie ja nicht umsetzen. Das finde ich schon sehr hilfreich und will ich nicht mehr vermissen.
Was auch geht sind Fleißaufgaben so a la "Mit diesem (von mir geschriebenen) Test als Vorbild schreibe weitere Tests für folgende Szenarien [...] und mach Vorschläge für was noch fehlen könnte". Muss man auch nochmal draufgucken, aber da ist es dann auch nicht so kritisch, und die Chancen, dass es falsch ist, sind kleiner.
