GENERATIV AI GUIDE 📖

Generativ AI

Guiden starter med at introducere generativ AIs grundprincipper. Derefter dykker vi ned i konkrete anvendelser fra avanceret billed- og tekstgenerering til musikproduktion. Du får også et indblik i trends, kommercielt potentiale og ressourcer til selv at komme i gang.

Undervejs adresserer vi også vigtige overvejelser omkring etik, bias og ansvarlig brug af denne fascinerende teknologi. Målet er hurtigt at give dig en 360 graders forståelse.

Efter endt læsning vil du have en solid basisviden om generativ AI, samt overblik over praktiske værktøjer, hvis du selv vil eksperimentere. Lad os komme i gang!

Introduktion til generativ AI

Hvad er generativ AI?

Generativ AI refererer til avancerede AI-systemer, der kan generere helt ny data eller indhold fra bunden, i modsætning til traditionel AI der kun analyserer eksisterende datasæt.

De mest kendte eksempler er billedgenerering (Midjourney), tekstskrivning (ChatGPT), videoproduktion og musikskabelse – men potentialet rækker meget videre. Generativ AI muliggør automatisk at syntetisere store mængder af træningsdata, teste hypoteser, accelerere design og kreativitet samt personliggøre indhold.

Nøglen er avancerede dybe neurale netværk der kan lære generelle mønstre i distributionen af data, for sidenhen at generere ny. Dette adskiller dem fra klassiske regelbaserede AI.

Historie og udviklingen af generativ AI

Generativ AI har eksisteret i årtier, men er først for nylig blevet avanceret nok til praktiske anvendelser. Dette skyldes fremgang inden for dybe neurale netværk, nye modelarkitekturer som GANs og bedre hardware som GPU’er.

De seneste par år har bragt epokegørende innovation. Banebrydende modeller som GPT-3, DALL-E 2 og Stable Diffusion tydeliggør potentialet i moderne generativ AI. Samtidig investeres der massivt i feltet af både techgiganter og AI-startups.

Grundlæggende principper i generativ AI

Hvordan generativ AI fungerer

Generativ AI bygger typisk på dybe neurale netværk, der trænes på meget store datasæt. Herved lærer modellerne at genkende komplekse mønstre, sammenhænge og variation i data.

Efter træningen kan modellerne så bruge denne lærte “forståelse” til at generere ny data og indhold fra bunden, som er statistisk sammenligneligt med det oprindelige træningsdatasæt.

Forskellige modelarkitekturer har hver deres fordele ift. at generere bestemte datatyper. F.eks. er nogle bedre til billeder, mens andre passer bedre til tekst.

Typer af generativ AI

Nogle populære modeller og deres styrker:

GANs: Består af 2 modeller der træner hinanden. God til billeder. Giver ofte meget realistic udseende resultater.
VAEs: Autoencoder der først koder og så genskaber data. Anvendes bredt til alt fra tekst til molekyledannelse. Kan effektivisere arbejdsgange ved at foreslå nye datapunkter.
Diffusionsmodeller: Introducerer “støj” som så raffineres til billeder. Meget realistisk på specielt ansigter og fine detaljer. Kræver dog mange sampling steps under genereringen.
Autoregressive som GPT-3: Generer tekst, kode og lyd trinvis. Avanceret sprogforståelse, men ikke så gode til semantisk sammenhæng på længere tekst.

Datagrundlag og modeltræning

Succes med generativ AI afhænger i høj grad af mængden af højkvalitetsdata et system trænes på. Jo større datasæt med god diversitet, des bedre resultater. Desuden er selve modeltræningen enormt beregnings- og datakrævende.

Moderne systemer kan involvere hundredvis eller tusindvis af GPU’er og TPU’er der kører konstant i månedsvis for at træne modeller med milliarder af parametre. Dette gør adgangen til feltet svært, da det kræver enorme ressourcer. Heldigvis findes der efterhånden open source modeller man kan eksperimentere med.

Anvendelser af generativ AI

Kunst og kreativitet

Generative modeller bruges i stigende grad til avanceret kunstgenerering og kreativt design.

Inden for billedkunst kan systemet producere originale værker i diverse stilarter baseret på prompts. Til musik kan AI komponere hele melodier og sange fra bunden. Modeller kan også foreslå nye møbeldesigns, arkitektur og mode.

Dette åbner op for nye former for samarbejde mellem mennesker og AI inden for kreative brancher.

Tekstgenerering og naturlig sprogforståelse

Dette er området som flest “normale” personer har stiftet bekendtskab med f.eks. ChatGPT. Det er avancerede sprogmodeller som GPT-3, der kan producere sammenhængende tekst af høj kvalitet baseret på prompts, samt svare på spørgsmål og deltage i dialog.

Dette giver mange anvendelser fra chatbots over copywriting til customer service automation med mere. Desuden kan tekstgenerering bruges i videnskabelige sammenhænge til at opstille hypoteser, lave research og meget andet.

Selvom mange har stiftet bekendtskab med ChatGPT, så udnytter de fleste langt fra potentialet. Hvis du vil udnytte Generativ AI og ChatGPTs fulde potentiale, så kig nærmere på vores AI kursus.

Musik og lydproduktion

AI-genereret musik og lyd bliver mere og mere avanceret. Systemer kan komponere genrespecifikke melodier, konvertere audio til tekst og omvendt, isolere stemmer fra mix og meget andet.

Dette giver mange praktiske anvendelser for musikere, lydteknikere og podcastere mv. Desuden benyttes lyd-AI til talegenkendelse og assistent-teknologi.

Generering af videnskabelige data

Inden for den grundvidenskabelige forskning bruges generative modeller til at eksempelvis generere molekyler med bestemte egenskaber, simulere fysiske fænomener, opstille hypoteser mv.

Dette kan være med til at accelerere opdagelser og eksperimenter. Dog kræver det solid forståelse for modellernes begrænsninger og systematisk validering af output.

Ansvarlig og pålidelig generativ AI

Bias og fairness

Ligesom al anden AI kan generative modeller afspejle og forstærke problematiske bias fra deres træningsdata og design. Dette kan føre til unfairness, manglende repræsentativitet og diskrimination i outputtet.

Derfor er grundige evalueringer af model-adfærd, samt proaktiv implementering af fairness constraints i arkitekturen, afgørende for at minimere disse risici.

Konkret kan man måle for skævheder på tværs af køn, etnicitet og andre faktorer. Dernæst justere datagrundlag, træningsproces og prompt-design for at balancere bedre. Løbende auditering er vigtigt.

Sikkerhed og privatliv

Når generativ AI bruges til at manipulere billeder, lyd og video er der en risiko for deepfakes, identitetstyveri og krænkelser. Systemerne kan også bruges til generering af skadeligt eller voldeligt indhold.

Derfor er grundige vurderinger af informationssikkerhed samt etisk AI-design vigtige fra starten, så man minimerer disse alvorlige problemer bedst muligt.

Konkrete tiltag kan være begrænsninger i adgang, robust vandmærkning af output, samt målrettet monitoring for misbrug.

Miljøpåvirkning og bæredygtighed

Den krævende modeltræning slider markant på både hardware og energiforbrug. Et enkelt AI-system kan potentielt udlede tonsvis af CO2.

Derfor er der et stort behov for at gøre generativ AI mere effektiv og grøn. Dette går fra chips over software til genbrug af modelparametre.

Konkret arbejdes der med energieffektive tensor processorer, carbon-tracking, samt initiativer som machine learning model zoos til at dele parametre.

“Hvis du ønsker at kunne udnytte de muligheder generativ AI giver, så er vores AI Kursus oplagt”

Avancerede teknikker og trends

Seneste fremskridt inden for generativ AI

Der sker lige nu eksplosiv innovation indenfor generativ AI. Nogle trends der vil præge de kommende år er:

Multimodal models der kombinerer tekst, billede, lyd, video i samme system
3D-generering og Virtual/Augmented Reality
Specialiserede domænemodeller inden for f.eks. kemi, biologi, engineering
Hardware-effektivisering via dedikerede AI chips og quantum computing
Mere pålidelige modeller ved at kombinere flere modeller, samt bedre usikkerhedsvurdering af output

Fremtidige udsigter og potentielle anvendelser

På længere sigt forudser eksperter at generativ AI vil integreres i de fleste brancher. Potentielle anvendelser går fra personlige AI-assistenter over automatiseret design af produkter, til avanceret drug-discovery og syntetiske miljøer i metaversen.

Samtidig arbejdes der på at gøre teknologien mere robust, pålidelig og tilgængelig via open source modeller og rammeværker der nemt kan tilpasses nye formål.

Ressourcer og værktøjer for generativ AI

Populære frameworks og biblioteker

Mange vælger at interagere med eksisterende generative modeller frem for at træne fra bunden. Populære rammeværker er:

TensorFlow: Meget udbredt machine learning platform
PyTorch: Facebook’s åbne rammeværk til dyb læring
HuggingFace: Bibliotek med utallige fortrænede modeller og pipelines
Nvidia Riva: AI-værktøjer til tale og sprog

Disse gør det lettere at implementere og bygge ovenpå kendte modeller.

Læringsressourcer og kurser

Der findes efterhånden gode tutorials og guides på nettet om generativ AI. Mange af disse er gode, men både på engelsk og lavet af PHD’er, så det tekniske niveau er højt. Her kunne nævnes:

Hvis man er på udkig efter en mere praktisk orienteret tilgang, så har vi vores AI kursus, hvor vi har stort fokus på Generativ AI, samt hvordan det kan bruges i ens daglige arbejde.

“Hvis du ønsker at kunne udnytte de muligheder generativ AI giver, så er vores AI Kursus oplagt”

FAQS

Ofte stillede spørgsmål om generativ AI

Hvis du har brug for hjælp så ring

+45 50 210 230

Hvor kan jeg finde offentligt tilgængelige generative modeller at eksperimentere med?

Flere tech-giganter og AI labs udgiver efterhånden open source generative modeller, f.eks. Meta, Google, Anthropic, Baidu, mv. Konkrete steder du kan finde disse er steder som HuggingFace, TensorFlow Hub og PapersWithCode.

Dette er den mere tekniske tilgang, som er utrolig spændende men også for de få. For de fleste er prompt engineering mere relevant, hvor du lærer at interagere så effektivt som muligt med modeller som f.eks. ChatGPT og Midjourney.

Hvilke programmeringssprog er mest relevante at lære for generativ AI?

Python er det foretrukne hovedsprog inden for generativ AI og dyb læring. Derefter er Julia og R populære til statistiske modeller og visualisering. Kendskab til C++, JavaScript og TypeScript er også relevant.

Hvad koster det at træne en avanceret generativ model?

Hvis man træner en model fra bunden (f.eks. GPT-4) kan det hurtigt løbe op i millioner af dollars i cloud computing ressourcer. Men heldigvis kan man bygge ovenpå eksisterende open source modeller til langt mindre.

Som privatperson kan du f.eks. bruge modeller fra HuggingFace eller lign. Det kræver blot en kraftig laptop til mindre projekter. For større opgaver er det typisk tusindvis af kroner i cloud GPU ressourcer månedligt.

Hvilke juridiske aspekter skal man være opmærksom på?

Man skal især være opmærksom på ophavsret ift. træningsdata og modellers output. Derudover er der lovmæssige rammer for beskyttelse mod misbrug af genereret indhold.

Generelt bør man søge juridisk assistance hvis generative modeller indgår i kommercielle produkter.

Hvor stor en rolle spiller generativ AI om 5-10 år?

Eksperter forudser at generativ AI på sigt vil være mainstream og disruption inden for de fleste brancher og erhverv. Teknologien ventes at nå et modenhedsniveau, der muliggør bred praktisk anvendelse.

Konkrete applikationer går fra personlige AI-assistenter over automatiseret design af produkter til avanceret drug-discovery, hvor udviklingen af ny medicin kan accelereres til et tempo, som vi kun har kunne drømme om.

Hvordan får jeg mest muligt ud af generativ AI?

Når du først har en model, om det så er din egen eller eksempelvis ChatGPT, så handler det om bedst muligt at udnytte modellens potentiale. Det gør du ved at give den de instruktioner, der giver det ønskede output, det kaldes prompt engineering.

Du kan læse mere om prompt engineering her.