WEBVTT 00:00.976 --> 00:09.000 I ett samtal beskrev Sam Altman, chefen för AI-företaget OpenAI, sina planer för en efterföljare till ChatGPT. 00:09.000 --> 00:15.679 Denna ska vara redo att använda redan inom de närmaste månaderna. Altman sade följande: 00:15.679 --> 00:25.628 ”Jag tror att vi är nära en värld där man kan ha en efterföljare till ChatGPT som hela tiden observerar din datorskärm, följer 00:25.628 --> 00:37.279 med i varje möte du deltar i, spelar in varje samtal och på så sätt har en perfekt kontext av hela ditt liv – av allt du ser.” 00:37.279 --> 00:42.840 Snart kommer AI:n alltså inte bara att reagera på förfrågningar, utan agera proaktivt. 00:42.840 --> 00:51.161 Den kommer att föreslå idéer, upptäcka potentiella problem och stödja vardagen. Vilken skön ny värld! 00:51.161 --> 00:58.127 Vid sidan av detta framstår de klassiska dystopierna som 1984 – ”Big Brother is watching you” – som en harmlös dockteater, 00:58.127 --> 01:02.178 för Orwells observatörer satt fortfarande bakom en vägg. 01:02.178 --> 01:08.526 Altmans observatörer sitter i den egna smartphonen eller datorn och snart i den egna hjärnan. 01:08.526 --> 01:12.650 De blir ständiga följeslagare, till synes vänner. 01:12.650 --> 01:15.343 Betet av bekvämlighet är frestande. 01:15.343 --> 01:23.476 Vem skulle inte gärna lägga ut några besvärliga möten eller låta en perfekt instans stödja en på jobbet? 01:23.476 --> 01:30.363 Men knappt har människorna blivit beroende av de nya AI-stöden förrän AI:n börjar tillrättavisa dem. 01:30.363 --> 01:37.520 Den smala gränsen mellan ”stöd” och ”förmyndarskap” definieras då inte längre av användarna, utan av algoritmer. 01:37.520 --> 01:41.204 Så blir den proaktiva hjälpen ett förmyndaraktigt ingrepp. 01:41.204 --> 01:47.020 Här några exempel på hur det ser ut i praktiken: 01:47.020 --> 01:50.695 1. Man vill skriva en kritisk kommentar om regeringens politik? 01:50.695 --> 01:55.437 AI:n, som följer varje tangenttryckning, ”korrigerar” texten i förväg. 01:55.437 --> 02:00.926 Hon föreslår mindre harmlösa formuleringar eller publicerar inte inlägget alls, eftersom det 02:00.926 --> 02:04.040 anses vara "inkorrekt" eller "polariserande". 02:04.040 --> 02:11.060 Redan nu blockerar Googles AI harmlösa recensioner utifrån sina egna definitioner. 02:11.060 --> 02:15.078 2. Söker man information om kontroversiellt diskuterade ämnen på nätet? 02:15.078 --> 02:22.414 AI:n filtrerar sökresultaten och visar bara de källor som den anser vara "trovärdiga" – det vill säga systemkonforma. 02:22.414 --> 02:25.585 Redan nu finns shadow banning i sociala medier. 02:25.585 --> 02:30.167 Innehållet är inte blockerat, men det visas inte längre i sökningen och är därmed 02:30.167 --> 02:34.269 inte längre tillgängligt för prenumeranterna. 02:35.769 --> 02:39.648 3. Det är inte längre nödvändigt att läsa och skriva, eftersom AI:n sammanfattar 02:39.648 --> 02:42.683 avancerade texter eller skriver hela artiklar och tal. 02:42.683 --> 02:49.870 Publicisten Tom-Oliver Regenauer skrev nyligen i ett positionspapper: 02:49.870 --> 02:56.020 "Den som lägger ut läsandet, tänkandet och skrivandet på entreprenad avlär sig det – och det mycket snabbt. 02:56.020 --> 03:01.599 Hjärnan kan jämföras med en muskel. Om den inte tränas, förtvinar den... 03:01.599 --> 03:10.317 Om man gör sig medveten om vilka fatala följder införandet av smarttelefonen sedan 2007 har haft, behövs inte mycket 03:10.317 --> 03:19.616 fantasi för att extrapolera vilka effekter AI kommer att ha på vår arts kognitiva förmågor på ojämförligt kortare tid. 03:19.616 --> 03:26.343 AI är – liksom smarttelefonen – i första hand militär teknik och ett degenerationsinstrument. 03:26.343 --> 03:32.294 Ett verktyg som de allra flesta inte kan hantera ansvarsfullt och produktivt. 03:32.294 --> 03:38.759 De orienterings-, vilje- och tanklösa "smombies", som redan nu präglar stadsbilden, tycks 03:38.759 --> 03:43.840 dock ännu inte räcka som avskräckande exempel." 03:43.840 --> 03:48.954 4. AI:n känner igen den personliga politiska inställningen efter mycket kort tid, läser de privata 03:48.954 --> 03:52.821 meddelandena och känner till relations- och kontaktnätverket. 03:52.821 --> 03:58.580 Den använder denna kunskap inte för att främja människan i hennes utveckling, utan för att "optimera" henne. 03:58.580 --> 04:02.526 Det betyder i klartext: anpassning till den krävda normen. 04:02.526 --> 04:10.245 Nudging, det vill säga subtil åsiktskontroll, har redan under coronaåren framgångsrikt masstestats. 04:10.245 --> 04:15.040 Hur mycket makt vill vi, användarna, alltså ge ChatGPT och co.? 04:15.040 --> 04:19.198 Tom-Oliver Regenauer ger ett tydligt statement om detta: 04:19.198 --> 04:27.392 "Jag vägrar att träna ett system som permanent spionerar på mig och redan nu har potentialen att döda mig. 04:27.392 --> 04:37.907 För exakt det gör Palantir, ChatGPT från OpenAI, Claude från Anthropic och Grok från SpaceXAI redan i dag i Gaza, Ukraina, 04:37.907 --> 04:47.215 Iran och andra krigsområden, där autonoma vapensystem styrs av just dessa system – liksom de minidrönare som 04:47.215 --> 04:52.424 enligt EUROPOL snart kommer att patrullera i våra städer. 04:52.424 --> 05:00.370 Den som använder AI-system tränar "SkyNet", en central databas som kommer att styra den riktiga "Terminator". 05:00.370 --> 05:06.784 Och den står tack vare Boston Dynamics, Unitree och Tesla ganska snart vid vår dörr."