Hintergrund | heise: KI-Müdigkeit: Fast drei Viertel wünschen sich die Arbeitswelt vor ChatGPT zurück
Eigentlich sollte sie die Produktivität steigern – inzwischen sind Mitarbeiter frustriert von KI. Viele würden die Technologie am liebsten abschaffen… (weiter)
#Hintergrund #Arbeit #Arbeitswelt #KI #ChatGPT #KI-Müdigkeit #Technologie @dach
Die Kommentare der KI-Booster sind wieder wild:
“Ich hab keine Zeit mehr, um meine Arbeit vernünftig zu machen, also rotze ich den ganzen Tag Slop raus. Endlich macht mir die Arbeit wieder Spaß (weil ich sie nicht mehr selbst machen muss)”
Was diese Leute wohl tun, wenn die Blase platzt und das Management die Kosten nicht mehr tragen will?
Die zitierte Person soll halt einfach mal lernen Nein zu sagen und sich selbst Zeit zu blocken, damit man wieder vernünftig arbeiten kann.
Was oft nur eine Auslagerung der tatsächlichen Arbeit ist: denn die Empfänger des Slops müssen dann die Überlegungen anstellen, die der Absender einsparte, da der Slop offensichtlich Unsinn ist.
Ich vergleiche das immer mit den Scannerksasen im Supermarkt: Angeblich wird die Arbeit wegautomatisiert. In Wirklichkeit erledigt der “Kunde” nun einen Wesentlichen Teil der Arbeit, wie das Überprüfen auf Richtigkeit, selber, bekommt dafür die Verantwortung, und gleichzeitig zu hören dass wegen der Technik die Arbeit verschwinde.
Eben. Die Arbeit verschiebt sich nur.
Gut möglich daß es genau wie Grafikkarten bald ki Beschleuniger gibt die man sich in den PC bauen kann, um sich teure Abos zu sparen. Von AMD gibt es schon eine kleine box I’m Mac Mini Format die das als externe Hardware loest, und leistungsmäßig etwa 2x besser ist als der Mac Mini den viele Leute als ai Server angeschafft haben.
Allerdings wäre das eine finanzielle Katastrophe für die AI Firmen die gerade teure Rechenzentren bauen, in der Hoffnung dass bald jeder dort ein Abo abschließt was dann genau wie jedes andere tech Produkt jedes Jahr teurer, schlechter und mit ads vollgestopft wird…
Schwierig. AI braucht vor allem Speicher und der ist teuer. Grafikkarten oder KI-Beschleuiger mit 200GB+ sind dadurch sackteuer und das stellt sich keiner privat hin.
Ich hab auch eher die Hoffnung, dass es einfach performantere LLMs geben wird, die einfach nicht so resourcenhungrig sind.
Kommt drauf an wie teuer die abos sind, vs hardware beschleuniger. Ab einem bestimmten preispunkt wird es leute geben die sich ausrechnen das 2 jahre abo teurer sind als eine lokale hardware die einen 4-stelligen betrag kostet. Ein anderes kaufargument koennte privatsphaere sein, oder das man seinen code, finanzen oder bauplaene nicht in die US cloud schickt.
Kann mir nicht vorstellen das man bei sowas softwareseitig noch viel optimieren kann. Wennes einfach waere, haette esi sicher schon jemand gemacht…
Vierstellig reicht halt nicht. Alleine eine RXT4090 oder 5090 liegt im Bereich 3-4.000€ und eine reicht nicht.
Die richtigen KI-Beschleuniger liegen ab 10.000€ (Nvidia A100) über den mittleren fünfstelligen Bereich (A200) bis in den sechsstelligen Bereich (H200).
Das alles rechnet sich nur, wenn man es auch wirklich ausführlich nutzt. Im Privatbereich definitiv zu teuer.
Daß man durchaus optimieren kann, zeigt ja gerade Kimi, die soweit ich das verstanden haben, zwar ein große Modell mit vergleichbar vielen Parametern im Training nutzen, aber bei der Verwendung eine eingeschränkte Anzahl Parameter auswerten. Keine Ahnung wie das genau geht, aber es deutet darauf hin, dass noch jede Menge Potential besteht. Ist auch eigentlich nicht verwunderlich, wir sind immer noch erst am Anfang dieser Technik, das ist noch lange nicht ausgereizt.
Ne; dedizierte hardware, keine grafikkarte:
https://www.amd.com/en/products/processors/desktops/ryzen/ryzen-ai-halo.html
Derzeit 4000 USD.
Moin, also Qwen 3.6 35B MoE (mix of experts ist ganz wichtig) läuft auf lokaler Hardware super. 3.8 ist gerade raus aber noch kein MoE-Modell. Das Besondere ist, dass man hier nur die aktiven experts in den VRAM laden kann und den Rest in den CPU/RAM auslagern kann. Auslagern geht auch bei anderen Modellen aber die MoE-Architektur macht’s nochmal besser. Läuft auf 8GB-VRAM mit 17 Tokens pro Sekunde (und das ist noch steigerbar, habe mir nur viel Kontext freigelassen). Erstmal nur Text, versteht sich. Aber zum Coden super. Kann man auch mit Tools erweitern oder mit Open Notebook/Zoo Code etc. arbeiten lassen. Qwen 3.8 soll an Flagshipmodelle wie Claude Opus ranreichen. Die Entwicklung geht jedenfalls dahin, dass nicht mehr Hardware gebraucht wird, sondern weniger. Ich denke, dass bald die meisten ihr eigenes LLM mit Tools und Erweiterungen laufen haben werden. Für Bilder und Videos braucht man natürlich mehr. Aber auch da wird die Entwicklung Richtung Ressourcensparsamkeit gehen, vermute ich. Schlecht für die Abokraken, gut für die Nutzer.
https://youtu.be/8F_5pdcD3HY