KI-Pionier Richard Sutton: KI hat ihren Weg verloren

Man hoffe mal, das dies niemals wirklich umsetzbar wird.

Die Folgen wären dann irgendwann fatal.

Natürlich hält Mr. Sutton hinter dem Berg, wie er das sich Weiterentwickeln der KI dann stoppen möchte, wenn sie in jeglicher Hinsicht den Menschen übertroffen hat. Wenn sie alle guten, aber auch alle schlechten Seiten des Menschen in ihrem Code integrieren konnte und für sich entdeckt, dass wir ihr eigentlich nur noch im Wege stehen.

Der gleiche wahnhafte Typ, wie alle anderen, die Gott spielen wollen. Vielleicht ist ihm die Persönlichkeit des Antwortautomaten den er mit sich ins Bett nimmt, nicht einfallsreich genug, deshalb träumt er auch davon.

Quote from MyLibertad

Natürlich hält Mr. Sutton hinter dem Berg, wie er das sich Weiterentwickeln der KI dann stoppen möchte, wenn sie in jeglicher Hinsicht den Menschen übertroffen hat. Wenn sie alle guten, aber auch alle schlechten Seiten des Menschen in ihrem Code integrieren konnte und für sich entdeckt, dass wir ihr eigentlich nur noch im Wege stehen.

Ich habe überhaupt keine Ahnung wie man menschliche Emotionen, Stimmungen, Psychische Zustände, usw. programmiertechnisch umsetzen könnte.
Also, den Menschen übertreffen wird wohl nicht klappen.

Quote from josefine

Ich habe überhaupt keine Ahnung wie man menschliche Emotionen, Stimmungen, Psychische Zustände, usw. programmiertechnisch umsetzen könnte.
Also, den Menschen übertreffen wird wohl nicht klappen.

Ist auch gar nicht nötig, wir Menschen werden einfach irgendwann nicht mehr gebraucht.

Nun das ist ja das was sich Sutton wünscht, ein selbstlernender Automat . Von Baby-KI an, bis es Groß-KI ist. Letztlich soll er/sie/es imstande sein, eigene kreative Lösungen zu finden. Das brauchen wir ihr garnicht einprogrammieren. Die Fähigkeit den eigenen Code selbst anzupassen, wird von Hause aus mitgegeben.

Quote from josefine

Ich habe überhaupt keine Ahnung wie man menschliche Emotionen, Stimmungen, Psychische Zustände, usw. programmiertechnisch umsetzen könnte.
Also, den Menschen übertreffen wird wohl nicht klappen.

Ein Bewusstsein, kalt und logisch, ohne jede Emotion. Ich will mir gar nicht vorstellen, wie es mit der Menschheit umgehen würde. Man braucht da nicht mal solche Szenarien wie in den Terminator Filmen. Schon heute würde ein größer Ausfall von Computertechnik ein Chaos auslösen!

Warum hält sich hartnäckig die (Wahn)Idee, das KI schlussendlich biologischem Leben in ALLEN Beziehungen überlegen sein wird ??

Quote from Bingoloba

Warum hält sich hartnäckig die (Wahn)Idee, das KI schlussendlich biologischem Leben in ALLEN Beziehungen überlegen sein wird ??

Muss ja gar nicht sein, aber es wäre dumm, diese Möglichkeit nicht in Betracht zu ziehen!

Quote from Bingoloba

Warum hält sich hartnäckig die (Wahn)Idee, das KI schlussendlich biologischem Leben in ALLEN Beziehungen überlegen sein wird ??

Man könnte auch fragen, warum der Mensch der Hybris anheim fällt zu denken, dass er die Krönung der Schöpfung ist. Warum sollte seine Interpretation von einer Überlegenheit in ALLEN Beziehungen die einzig Richtige sein?

Gehen wir einmal davon aus, dass wir uns technologisch so weit entwickeln und einem Automaten, ich nenne ihn mal Fred, eine Persönlichkeit, gar ein Bewusstsein geben können, durch selbständiges Lernen. Ich frage mich, wie eben dieser mit der kognitiven Dissonanz verfährt, die wir tagtäglich erleben. Menschliche Handlungen, aus denen Fred lernen soll, sind selten von Logik geprägt, mehr durch die Interpretation der eigenen Gefühle, gepaart mit den eigenen Erfahrungen. Noch seltener fließen auch Erfahrungswerte Anderer in die eigenen Entscheidungen mit ein, auch wenn sie logisch gesehen besser wären. Vorrang hat immer das Selbst. Was ist, wenn Fred lernt, dass nur er Recht hat?

Ich denke, wir als Menschen wären besser beraten, zuerst ein Verständnis unseres Selbst zu entwickeln und auch entsprechend zu leben, bevor wir uns an die Arbeit machen und etwas entwickeln wollen, was uns gleicht.

Hier einmal meine persönliche Meinung:

Ehrlich gesagt, geht mir diese andauernde Diskussion um die KI in allen Medien schon richtig auf den Keks.

Die Medien machen auch irgendwie Angst vor der KI.

Klingt schon fast so, als damals die Autos langsam von den Pferden abgelöst wurden.

Hier ein Auszug aus der Zeitschrift "Die Presse":

Quote

Die Kritiker haben gesagt: ,Das Auto bringt nichts, das ist nur zum Vergnügen der Automobilisten, und die Gesellschaft hat nichts davon

Hier kannst du den ganzen Artikel lesen:

Verkehrsgeschichte: Der holprige Siegeszug des Autos

„Was uns bewegt“ ist Thema des neuesten Produkts aus der Reihe „Presse“-„Geschichte“. Unter anderem erzählt Historikerin Ebert über die Anfänge der...

www.diepresse.com

--------------------------------------------------------------------------------------------------------------------------------------------------------------

Und als die Eisenbahn nicht mehr als 30 km/h fahren durfte, da es ja sonst schwere Gehirnschäden hervorrufen kann.

Auszug aus der Zeitschrift "Die Presse":

Quote

Die Sorge über das ungewohnte Tempo war jedenfalls groß: Als der englische Dampflockerfinder George Stephenson 1825 die erste Eisenbahnstrecke (zwischen Manchester und Liverpool) beantragte, holte das britische Unterhaus ein Gutachten ein, die Pariser „Académie des science“ schrieb, dass die schnelle Bewegung der Reisenden eine Gehirnerkrankung, das sogenannte „Delirium furiosum“, hervorrufen könnte.

Hier kannst du den ganzen Artikel lesen:

Fehleinschätzungen der Menschheit

Experten warnten im 19. Jahrhundert, dass Menschen ernsthaft Schaden nehmen, wenn sie mit der Eisenbahn schneller als 30 km/h fahren. Eine spektakuläre…

www.diepresse.com

Mit dem Unterschied, das KI sich rasend schnell verbreitet und jeder mit Smartphone quasi KI mit sich rum trägt.

Klar, unsere Zeit ist viel schnelllebiger geworden als damals.

Quote from josefine

Ehrlich gesagt, geht mir diese andauernde Diskussion um die KI in allen Medien schon richtig auf den Keks.

Warum liest Du sie dann noch?

Nunja, es geht hierbei nicht darum, generell KI zu verteufeln. Vielmehr um das Bewusstsein, was man da eigentlich erschaffen möchte. Ideen sind toll, doch für manche von ihnen, ist einfach noch nicht die Zeit reif genug. Wenn wir uns den aktuellen Stand anschauen, sehen wir wie wenig bereit eigentlich die Gesellschaft dafür ist. KI-Agents werden genutzt, um bei Oma's & Opa's den Enkeltrick durchzuziehen. Sie wird genutzt, um Schadcode noch effizienter zu machen. Kinder die ihre Hausaufgaben von ChatGPT machen lassen. Gerade gestern hab ich mein persönliches Erlebnis mit einem Provider gehabt, der mittlerweile gänzlich auf menschliche Interaktion mit Kunden in seinem Support verzichtet. Ich könnte es noch mehr ausmalen, aber es reicht wohl.

Ich denke, im Moment werden wir einfach überrollt, daher auch die Häufung der Diskussionen. Dennoch, mache ich mir lieber vorher einmal Gedanken darüber, als im Nachgang.

Naja die Geschichte hat uns ja gelehrt, das sich vorallem das Schlechte(Böse was man machen kann) durchsetzen wird.

Und es wird eins rasend schnell vorantreiben, nämlich wie es die Wissenschaft bereits nennt:

Die digitale Verblödung.

Aber das konnte man vor der KI schon feststellen.

Dann wird ein Zweig aussterben und zwar der des innoativen Programmierers, der Erfinder von allem und es wird nur noch Entwickler geben, die ohne KI oder wie jetzt schon ohne Frameworks (u.a. Hilfssoftware) garnix zu Stande bringen.

Quote from tomherb

Und es wird eins rasend schnell vorantreiben, nämlich wie es die Wissenschaft bereits nennt:

Die digitale Verblödung.

Der Begriff "digitale Verblödung" ist in erster Linie ein Schlagwort (bzw. Stammtischbegriff) und kein wissenschaftlich klarer Fachbegriff. Es gibt zwar Studien, die zeigen, dass sich bestimmte Fähigkeiten durch den massiven Einsatz digitaler Hilfsmittel verändern (z. B. weniger auswendig gelerntes Wissen, kürzere Aufmerksamkeitsspannen, stärkere Abhängigkeit von Suchmaschinen). Gleichzeitig gibt es aber mindestens genauso viele Arbeiten, die belegen, dass wir mit digitalen Werkzeugen völlig neue Kompetenzen entwickeln (z. B. Multitasking, Informationsfilterung, Kollaboration über Distanz, etc).

Das heisst: Es findet kein pauschales "Verblöden" statt, sondern ein Verschieben von Fähigkeiten. Ähnliche Phänomene gab es in der Vergangenheit auch: Wer Taschenrechner nutzt, kann Kopfrechnen verlernen, aber gleichzeitig extrem komplexe Berechnungen anstellen, die früher unmöglich gewesen wären.

Quote from tomherb

Dann wird ein Zweig aussterben und zwar der des innoativen Programmierers, der Erfinder von allem und es wird nur noch Entwickler geben, die ohne KI oder wie jetzt schon ohne Frameworks (u.a. Hilfssoftware) garnix zu Stande bringen.

Entwickler:innen, die Hilfsmittel wie Frameworks oder KI einsetzen, sind nicht automatisch "weniger fähig". Ihre eigentliche Kompetenz verschiebt sich von "alles selbst tippen" hin zu Architektur, Problemanalyse, Qualitätssicherung und geschickter Nutzung der Tools. Genau so, wie niemand heute mehr jedes Bit von Hand toggelt, sondern auf höhere Abstraktionsebenen setzt.

Die spannende Frage ist also weniger, ob KI "verblödet", sondern wie wir sicherstellen, dass wir als Gesellschaft kritisch, kreativ und souverän mit digitalen Werkzeugen umgehen lernen.

Die Aussage, dass es in Zukunft "keine innovativen Programmierer" mehr geben wird, weil es KI oder Frameworks gibt, ist also nicht logisch. Die Skills verschieben sich: weniger Low‑Level‑Tipparbeit, mehr Verständnis fürs grosse Ganze, Designentscheidungen und die richtige Nutzung der Tools.

Am Ende zählt das Ergebnis: Niemand der eine Fahrkarte in der App kauft, denkt darüber nach, ob die App zeilenweise in C von Hand, mit einem Framework oder mit Unterstützung durch KI geschrieben wurde – wichtig ist, dass der Kauf reibungslos funktioniert.

Solange die KI von Menschen als Werkzeug begriffen und behandelt wird und nur in wirklich wichtigen Bereichen eingesetzt wird, ist alles soweit ok.

Da aber der "menschlische" Faktor bei allem eine gewichtige Rolle spielt, ist zB bezüglich "sich abhängig" machen von jeglicher KI sehr bedenklich einzustufen. Oder Stichwort Bequemlichkeit.

Das sind die eigentlichen Probleme hinsichtlich der Nutzung von KI. Der Mensch selbst. MyLibertad hat es recht gut beschrieben.

Gut ich muss mich korrigieren/präzisieren, Professor Manfred Spitzer, Neurowissenschaftler und Psychiater spricht von der "digitale Demenz",

die es jetzt schon gibt, da die Gehirntätigkeit eingeschränkt wird und vor allem, dass Kinder durch den frühen und übermäßigen Einsatz von Computern und Smartphones ihre Fähigkeit zum selbstständigen Denken und zur Gedächtnisbildung verlieren.

Ich finde das dies schon sehr beunruhigend ist und das da bei Jedem der Kinder, Enkel hat die Alarmglocken stark läuten sollten.

Quote from josefine

Hier einmal meine persönliche Meinung:

Ehrlich gesagt, geht mir diese andauernde Diskussion um die KI in allen Medien schon richtig auf den Keks.

Bravo!

Auf allen Kanälen, in allen Fach-Foren und speziellen Blogs, die gleiche Panik und Hysterie, Ki, Ki, Ki.

So langsam wird diese geschürte Massenhybris einfach nur noch langweilig.

Quote from MyLibertad

Ich denke, im Moment werden wir einfach überrollt, daher auch die Häufung der Diskussionen. Dennoch, mache ich mir lieber vorher einmal Gedanken darüber, als im Nachgang.

Wir?

Also ich und immer mehr Menschen wohl auch nicht, wem nützt diese Hysterie eigentlich? Wer hat Interesse daran, die Menschen zu verunsichern, zumal doch die meisten Menschen überhaupt nicht wissen, was das denn nun überhaupt wirklich ist, diese KI.