Schlagwort: KI

  • Nils Müller

    LLM-Code ist der Asbest der digitalen Zeit

    In der aktuellen Diskus­sion um LLM-erzeugten Code ist der Hype groß, dass die Mod­elle hun­derte, wenn nicht tausende Zeilen funk­tion­ieren­den Code gener­ieren kön­nen. Cory Doc­torow (@pluralistic) weist jedoch richtiger­weise darauf hin, dass Code an sich keinen Wert hat – auch nicht eine Samm­lung von Codezeilen, die vordefinierte Tests beste­ht. Denn: „any non­triv­ial code has to inter­act with the out­side world,…

  • Nils Müller

    KI weist auf problematische gesellschaftliche Strukturen hin

    Ich habe schon länger den Ver­dacht, dass jede Diskus­sion über den sin­nvollen Ein­satz von KI let­ztlich eine Diskus­sion über die Schwächen unser­er neolib­er­al-kap­i­tal­is­tis­chen Gesellschaft­sor­d­nung ist. Im Kern ver­schärft KI in meinen Augen da in erster Lin­ie die Wider­sprüche, die wir im Kap­i­tal­is­mus ohne­hin haben. In eine ähn­liche Rich­tung zielt Lorenz Matzat, der in der Auseinan­der­set­zung mit der fun­da­men­tal­en Kri­tik gegenüber…

  • Nils Müller

    Es ist nur konsequent, dass sich Unis mit KI selbst zerstören

    Aus den USA kom­men die ersten Berichte von Uni­ver­sitäten, die viel Geld in „Kün­stliche Intel­li­genz“ investieren und gle­ichzeit­ig men­schliche Dozent*innen kündi­gen und ganze Stu­di­en­pro­gramme abschaf­fen. Dabei macht Ronald Purs­er eine beun­ruhi­gende Beobach­tung: the very pro­grams best equipped to study the social and eth­i­cal impli­ca­tions of AI were being defund­ed, even as the uni­ver­si­ty pro­mot­ed the use of OpenAI’s prod­ucts across…

  • Nils Müller

    KI treibt eine riesige Blase

    In ihrem Buch The Boom and Bust of Tech­no­log­i­cal Inno­va­tion beschrieben die Ökonomen Brent Gold­farb und David A. Kirsch vier Fak­toren, die dazu beitra­gen, eine Investi­tions­blase entste­hen zu lassen: Alle vier Fak­toren sind in der aktuellen Blase um „Kün­stliche Intel­li­genz“ in in hohem Maße vorhan­den: Die Ver­sprechun­gen sind gigan­tisch, es ist aber sehr unsich­er, ob sie sich über­haupt real­isieren lassen.…

  • Nils Müller

    Warum KI nicht dabei hilft, besonders gute Bewerbungen zu schreiben und was man dagegen tun kann

    Ok, das bedarf ein­er aus­führlicheren Antwort auf mehreren Ebe­nen – aber dann kann ich auch gle­ich mal die „Förderierten Antworten“ auf meinem Blog testen. 😉 Was du beschreib­st, ist ein schönes Beispiel dafür, wie und KI mit der Nase in die Wider­sprüche drückt, die wir uns in den let­zten Jahrzehn­ten so einge­brockt haben – meist Kap­i­tal­is­mus sei dank… Auf der…

  • Nils Müller

    Ideal der Bildung war schon vor ChatGPT kaputt

    Auch wenn wir jet­zt Chat­G­PT dafür ver­ant­wortlich machen, dass Studierende nicht mehr in erster Lin­ie ler­nen, son­dern jede mögliche Abkürzung nehmen, um Prü­fun­gen gut zu beste­hen, war das Ide­al der Bil­dung um der per­sön­lichen Entwick­lung willen schon vorher zer­stört. The ide­al of col­lege as a place of intel­lec­tu­al growth, where stu­dents engage with deep, pro­found ideas, was gone long before…

  • Nils Müller

    KI reduziert komplexe Welt auf Kategorien, die Computer verstehen

    Damit Com­put­er ihre Arbeit tun kön­nen, sind sie darauf angewiesen, klar definierte Dat­en zu bekom­men. Die echte Welt ist allerd­ings kom­plex und Abstrak­tion aufwendig. Klas­si­fizierende KI erscheint hier als wirk­samer Adapter. Dis­crim­i­na­tive AI turns the com­plex and con­tra­dic­to­ry, the wild and weird world of physics and chem­istry and peo­ple into sim­ple data. It is the tool to build tools. The…

  • Nils Müller

    OpenAI verdient kein Geld bei horrenden Kosten

    Mit Blick auf die näch­sten Monate und Jahre ist vol­lkom­men unklar, wie Ope­nAI seinen Betrieb finanzieren will. Die Nutzer der freien Lizen­zen verur­sachen hor­rende Kosten und selb­st die zahlen­den Kun­den sind nicht prof­ita­bel. Gle­ichzeit­ig steigen die Kosten weit­er an und es scheint auch, als stoße das Unternehmen an die Gren­zen sein­er Kapaz­ität in Sachen Rechen­zen­tren und GPUs. Dies kön­nte eine…

  • Nils Müller

    OpenAI ist zentral für die Tech-Industrie

    Open AI und mit ihm die gen­er­a­tive KI sind für die Zukun­ft der Tech-Indus­trie abso­lut zen­tral: auf der einen Seite, weil es Unmen­gen an Kap­i­tal bindet und ver­bren­nt; auf der anderen Seite aber auch, weil es aktuell das einzige große Ver­sprechen der Indus­trie in Sachen echter Inno­va­tion ist. Ein Scheit­ern von Ope­nAI würde in der Indus­trie und der Wirtschaft all­ge­mein…

  • Nils Müller

    Menschen entwickeln parasoziale Beziehungen mit Chatbots

    Chat­bots wie Chat­G­PT sind bei vie­len Men­schen mit­tler­weile fes­ter Bestandteil des Lebens. Da ist es nicht über­raschend, dass ins­beson­dere ein­same Men­schen schnell para­soziale Beziehun­gen zu ihnen entwick­eln: In oth­er words, the need­i­est peo­ple are devel­op­ing the deep­est paraso­cial rela­tion­ship with AI — and where that leads could end up being sad, scary, or some­where entire­ly unpre­dictable Quellen Artikel: Some­thing Bizarre…

  • Nils Müller

    Wir klassifizieren Technologie nach sozialen Kriterien

    In gesellschaftlichen Debat­ten disku­tieren wir immer häu­figer über Grup­pen und Typen von Tech­nolo­gien. Wenn man genau hin­schaut, wird jedoch deut­lich, dass diese Abgren­zung nicht auf tech­nol­o­gis­chen Kri­te­rien basiert, son­dern sich aus einem spez­i­fis­chen poli­tisch-kul­turellen Blick ergibt: I don’t think it takes a par­tic­u­lar­ly sharp mind to under­stand that the coali­tions against FRT, against pre­dic­tive polic­ing, against pris­ons, etc… are work­ing…

  • Nils Müller

    Glaube an die Intelligenz von KI ähnelt Glauben an Hellseher

    Dass viele Men­schen glauben, LLMs wären intel­li­gent, lässt sich mit dem­sel­ben Mech­a­nis­mus erk­lären, der manche Men­schen an Hellse­her glauben lässt – u.a. dem soge­nan­nten For­er-Effekt: As a con­se­quence, many peo­ple will inter­pret even the most gener­ic state­ment as being specif­i­cal­ly about them if they can relate to what was said. Quellen Artikel: The LLMen­tal­ist Effect: how chat-based Large Lan­guage Mod­els…

  • Nils Müller

    Automatisiertes Wissen ist entfremdet und wirkt als Machtinstrument

    Sobald das Wis­sen der Arbeit­er­schaft in Maschi­nen man­i­festiert ist und durch den Kap­i­tal­is­mus nahezu beliebig skaliert und bewegt wer­den kann, kön­nen Arbeit­er von diesem Wis­sen ent­fremdet wer­den, das ihnen nun extern gegenüber­tritt. Verän­derun­gen und Verbesserun­gen am Pro­duk­tion­sprozess sind nun nicht mehr direkt mit ihrer Prax­is ver­bun­den, son­dern bleiben ihnen sog­ar voren­thal­ten. Spätere Gen­er­a­tio­nen müssen das entsprechende Wis­sen sog­ar über­haupt nicht…

  • Nils Müller

    KI ist ein politisches Projekt der Machtverlagerung

    Wenn wir Tech­nolo­gien in erster Lin­ie nach ihrer gesellschaftlichen Bedeu­tung klas­si­fizieren, wird deut­lich, dass KI in ein­er Tra­di­tion­slin­ie mit der Automa­tisierung physis­ch­er Pro­duk­tion ste­ht und auf die Zen­tral­isierung von Wis­sen und dessen Ver­mark­tlichung abzielt: I think we should shed the idea that AI is a tech­no­log­i­cal arti­fact with polit­i­cal fea­tures and rec­og­nize it as a polit­i­cal arti­fact through and through.…

  • Nils Müller

    KI schließt an Wandel der Menschen an

    Bei der ganzen Diskus­sion darum, ob die KI men­schlich wird, soll­ten wir uns lieber fra­gen, ob nicht wir Men­schen der KI immer ähn­lich­er wer­den, bzw. uns nicht schon länger in eine Rich­tung bewe­gen, die uns durch KI erset­zbar macht. Dazu for­muliert Joan West­en­berg auf Mastodon: We‘re wor­ried about AI doing human things. We should be equal­ly wor­ried about humans doing…

  • Nils Müller

    Kapitalisierung von Wissen als Gefahr für den Kapitalismus schon im 19. Jhdt. erkannt

    Die zen­trale Rolle von Wis­sen für die Wirtschaft – auch die Pro­duk­tion­swirtschaft – war schon Charles Bab­bage am Anfang des 19. Jahrhun­derts bewusst. Ins­beson­dere sah er in der zunehmenden Kap­i­tal­isierung des Wis­sens der Arbeit­er­schaft in Maschi­nen ein langfristiges Risiko für das langfristige Funk­tion­ieren eines arbeit­szen­tri­erten Kap­i­tal­is­mus – ähn­lich übri­gens wie das unlike­ly cou­ple aus David Ricar­do und Karl Marx. Mat­teo…

  • Nils Müller

    KI am Arbeitsplatz erzeugt Belastung und Stress

    Kaum gab es ein ein­fach ver­füg­bares und umfan­gre­ich trainiertes „Large Lan­guage Mod­el“, über­schlu­gen sich die Mel­dun­gen und Ver­sprechun­gen über Kün­stliche Intel­li­genz – wie sie uns Arbeit abnehmen würde und die Wirtschaft rev­o­lu­tion­ieren. Doch nach zwei Jahren ist von diesen Ver­sprechun­gen nicht mehr allzu viel übrig. So zeigt eine Umfrage in den USA: Although 96% of C‑suite lead­ers expect AI to…

  • Nils Müller

    Drei Typen von Algorithmen

    „Algo­rith­mus“ ist mit­tler­weile ein­er der wichtig­sten Begriffe gewor­den, wenn wir über den Ein­fluss von Tech­nolo­gie auf unsere Gesellschaft nach­denken. Dabei wird der Begriff selb­st jedoch sel­ten direkt the­ma­tisiert und bleibt auch in sein­er Ver­wen­dung unklar und nicht wirk­lich definiert. Dadurch geht ver­loren, dass es nicht nur die fast schon mythisch verk­lärten Algo­rith­men der Sozialen Medi­en und der KI gibt. Algo­rith­men…

  • Nils Müller

    KI-Trainingsdaten verändern englische Sprache und wirken dadurch rassistisch

    Die Sprache der „kün­stlichen Intel­li­genz“ ist (aktuell?) Englisch. Doch nicht irgen­dein Englisch. Vielmehr sind die Pro­duk­te der KI geprägt von dem Englisch, das im Train­ing­sprozess genutzt wird. Der Guardian berichtet nun, dass hier ein spezieller Mech­a­nis­mus am Werk ist, der let­ztlich mal wieder auf ras­sis­tis­ch­er Aus­beu­tung basiert und ras­sis­tis­che Struk­turen repro­duziert. In der let­zten Zeit sind einige sprach­liche Mark­er aufge­fall­en,…

  • Nils Müller

    Algorithmen ersetzen Paradigmen als dominante Form von „Regeln“

    Auf den ersten Blick scheint uns der Begriff „Regel“ rel­a­tiv klar zu sein. Doch in ihrem Buch Rules: A Short His­to­ry of What We Live By zeigt die Wis­senschaft­shis­torik­erin Lor­raine Das­ton auf, dass wir hier min­destens drei Bedeu­tun­gen unter­schei­den müssen. Zudem hat sich auch die Gewich­tung dieser drei Ebe­nen verän­dert: Die erste Ebene kommt im deutschen Begriff „Regel“ nicht so…

  • Nils Müller

    KI verhindert Lernen und zerstört Kompetenz

    Die Kun­st ist ein Bere­ich, in dem man beson­ders gut über die Unter­schiede zwis­chen men­schengemacht­en und maschinell gener­ierten Arte­fak­ten nach­denken kann. Dies tut Ted Chi­ang mal wieder auf seine unnachahm­lich pointierte Weise in seinem rel­a­tiv neuen Artikel Why A.I. Isn’t Going to Make Art. Er schließt dabei unmit­tel­bar an die Argu­mente an, die ich hier auch schon for­muliert habe: KI-Kun­st…

  • Nils Müller

    Dem Kapitalismus reicht Mittelmaß

    In der Diskus­sion um die Qual­ität der Ergeb­nisse von Large Lan­guage Mod­els ist eines der zen­tralen Argu­mente der Kri­tik­er die unzure­ichende Zuver­läs­sigkeit, die fehlende Qual­ität und die Gle­ich­för­migkeit der Ergeb­nisse. An dieser Stelle kann und will ich auch gar nicht wider­sprechen – das grundle­gende Funk­tion­sprinzip dieser Algo­rith­men ist es, Muster aus alten Dat­en auf neue anzuwen­den. Das Prob­lem ist nur,…

  • Nils Müller

    KI-Kunst ohne Intention

    In einem aktuellen Essay beschäftigt sich Cory Doc­torow (@plu­ral­is­tic) damit, warum „Kun­st“, die von kün­stlich­er „Intel­li­genz“ erzeugt wird, sich für ihn selt­sam, merk­würdig oder, auf Englisch tre­f­fend, eerie anfühlt. Er zitiert hier maßge­blich Hen­ry Far­rell bzw. Mark Fish­er: „Eeri­ness“ here is defined as „when there is some­thing present where there should be noth­ing, or is there is noth­ing present when…

  • Nils Müller

    Intelligenz und Bewusstsein sind getrennte Phänomene

    An ander­er Stelle hat­te ich schon mal über die unter­schiedliche Aus­prä­gung des Denkens bei Men­schen, nicht-men­schlichen Tieren und Maschi­nen nachgedacht. In eine ähn­liche Rich­tung denkt auch Erik Hoel in seinem Artikel The risk of anoth­er con­scious­ness win­ter. Er macht dies an der Tren­nung zwis­chen Bewusst­sein und Intel­li­genz fest, wobei er den Grad der Intel­li­genz von „KI“-Systemen wie GPT‑4 deut­lich höher…

  • Nils Müller

    KI wird den Fachkräftemangel nicht beheben

    Den Tag gestern (07.12.2023) durfte ich wegen mein­er Arbeit in dem Pro­jekt Zukun­ft­szen­trum pulsnetz.de Men­sch und Tech­nik im Gemein­we­sen auf der inter­es­san­ten arbeit­spoli­tis­chen Tagung der Zukun­ft­szen­tren in Berlin ver­brin­gen. Dabei sprach u.a. Bun­de­sar­beitsmin­is­ter Huber­tus Heil darüber, „kün­stliche Intel­li­genz“ sein ein Baustein dabei, den Fachkräfte­man­gel in eini­gen Branchen zu bekämpfen. Dabei sind mir einige inter­es­sante Dinge aufge­fall­en: Es gab eine Karten­abfrage…

  • Nils Müller

    Intelligenz bei Tieren und Maschinen

    Was die vorge­bliche „Intel­li­genz“ von Maschi­nen ange­ht, bin ich bish­er sehr skep­tisch gewe­sen, was man auch in diesem Blog mehrfach nach­le­sen kann. Im Hin­blick auf die Intel­li­genz bei Tieren hinge­gen finde ich die Argu­mente von Frans de Waal sehr überzeu­gend. Je mehr ich mich mit grundle­gen­deren The­o­rien von Intel­li­genz und Bewusst­sein beschäftige, desto mehr schle­icht sich mir allerd­ings der Ein­druck…

  • Nils Müller

    KI lindert Symptome, löst aber keine Probleme

    Der Ein­satz von „kün­stlich­er Intel­li­genz“ in zahlre­ichen Bere­ichen dient oft in erster Lin­ie dazu, Symp­tome abzuschwächen, um nicht die eigentlichen Prob­leme lösen zu müssen. KI in der Kommunikation Ein solch­es Beispiel sind gen­er­a­tive KI-Mod­elle, die aus Stich­punk­ten län­gere Texte machen –beispiel­sweise bei der Erstel­lung von Pro­jek­tbeschrei­bun­gen oder in E‑Mails. Das Prob­lem dabei ist: Wenn es reicht, dass eine KI den…

  • Nils Müller

    Form, Inhalt und „KI“

    Die Diskus­sion um „kün­stliche Intel­li­genz“ hat ger­ade erst wirk­lich ange­fan­gen. Mit der Zuschrei­bung von Intel­li­genz und der Frage nach der aggres­siv­en Grund­hal­tung gegenüber der Welt habe ich zwei Aspek­te bere­its ange­sprochen, ein drit­ter Aspekt ist der Vor­rang von Form gegenüber Inhalt: Die beson­dere Stärke von „Large Lan­guage Mod­els“ liegt darin, einen vorgegebe­nen Inhalt – entwed­er durch den Nutzer oder durch…

  • Nils Müller

    Von Erwartungen und Intelligenz

    Dieses Jahr kann ich lei­der mal wieder nicht auf der re:publica in Berlin sein. Doch glück­licher­weise kann man viele der inter­es­san­ten Ideen und The­men, die dort disku­tiert wer­den, auch vom heimis­chen Schreibtisch ver­fol­gen. Heute wurde mir da in erster Lin­ie dieser äußerst inter­es­sante Vor­trag des selb­sterk­lärten „Lud­diten“ tante in die Time­line gespült. Tante ist in meinen Augen ein­er der schärf­sten…

  • Nils Müller

    LLM denken nicht, sie rechnen

    Sich selb­st zu googlen ist mit­tler­weile ja schon fast eine Notwendigkeit. #Chat­G­PT nach Infor­ma­tio­nen über sich selb­st zu fra­gen, kann hinge­gen zu etwas ver­stören­den Ergeb­nis­sen führen. So schreibt der Bot nach der entsprechen­den Frage von Alexan­der Hanff: „Trag­i­cal­ly, Hanff passed away in 2019 at the age of 48“ Dieser erfreut sich jedoch bester Gesund­heit – son­st fiele es ihm wohl…

  • Nils Müller

    Das Gespenst des ChatGPT

    Die Euphorie rund um das neue „KI“-System #Chat­G­PT ist groß: Hoff­nun­gen auf eine wahre kün­stliche Intel­li­genz erhal­ten neuen Schwung. Jour­nal­istinnen und andere Autorinnen fühlen sich berufen, über das Ende divers­er Jobs zu spekulieren und generell ist – mal wieder – die Rede von ein­er Zeit­en­wende. Glück­licher­weise gibt es aber auch einen real­is­tis­cheren Blick auf diese Entwick­lung, bei der zwei Dinge…