Det som är dagens toppmoderna metod kan snabbt bli morgondagens gamla system. Organisationer som investerar i SaaS-lösningar baserade på artificiell intelligens står inför en avgörande fråga: Hur kan vi säkerställa att de system som implementeras idag inte blir morgondagens tekniska skuld?

‍

Svaret ligger inte i att välja den mest avancerade tekniken för tillfället, utan i att välja plattformar som bygger på flexibla och anpassningsbara arkitekturer som kan utvecklas i takt med nya AI-funktioner. I den här artikeln analyseras olika implementeringar av modulära arkitekturer inom AI-området, med fokus på Retrieval-Augmented Generation (RAG), och de olika arkitekturerna jämförs.

‍

Den dolda risken med rigida AI-implementeringar

Många organisationer väljer AI-lösningar främst utifrån nuvarande kapacitet, fokuserar på omedelbar funktionalitet och bortser från den underliggande arkitekturen som avgör den långsiktiga anpassningsförmågan. Detta tillvägagångssätt skapar flera betydande risker:

Teknologisk föråldring

Innovationstakten inom AI fortsätter att accelerera, med grundläggande framsteg på allt kortare tid. Rigida system som är uppbyggda kring specifika metoder för AI har ofta svårt att införliva dessa framsteg, vilket leder till kapacitetsluckor i förhållande till nyare lösningar.

Modifiering av affärskrav

Även om tekniken förblir statisk (och det kommer den inte att göra) kommer verksamhetskraven att utvecklas. Organisationer upptäcker ofta värdefulla användningsområden för artificiell intelligens som inte förutsågs under den första implementeringen. Oflexibla plattformar har ofta svårt att utvecklas bortom sina ursprungliga designparametrar.

Utvecklingen av ekosystemet för integration

De applikationer, datakällor och system som omger AI-lösningen kommer att förändras över tid genom uppgraderingar, utbyten och nya tillägg. Rigida AI-plattformar blir ofta flaskhalsar i integrationen, vilket kräver dyra lösningar eller begränsar värdet av andra teknikinvesteringar.

Förändringar i regelverk och efterlevnad av lagar och regler

Kraven på styrning av AI fortsätter att utvecklas globalt, med nya regelverk som ställer krav på förklarbarhet, rättvisebedömning och dokumentation. System utan arkitektonisk flexibilitet har ofta svårt att anpassa sig till dessa föränderliga krav.

‍

RAG-paradigmet: En fallstudie av modulär arkitektur

Retrieval-Augmented Generation (RAG) är ett utmärkt exempel på en modulär arkitektur som revolutionerar det sätt på vilket AI-system utformas och implementeras. AWS definierar det som "processen att optimera resultatet av en stor språkmodell (LLM) som refererar till en auktoritativ kunskapsbas utanför sina utbildningsdatakällor innan den genererar ett svar".

Implementering av AWS RAG

AWS har utvecklat en RAG-molnarkitektur som exemplifierar principerna om modularitet och flexibilitet. Som påpekas av Yunjie Chen och Henry Jia i AWS Public Sector-bloggen består denna arkitektur av fyra distinkta moduler:

‍

1. Modul för användargränssnitt: Interagerar med slutanvändare via Amazon API Gateway
2. Orchestration module: Samverkar med olika resurser för att säkerställa att datainsamling, uppmaning och svarsgenerering flyter smidigt
3. Inbäddningsmodul: Ger tillgång till olika grundmodeller
4. Vector Store-modul: Hanterar lagring av inbäddade data och körning av vektorsökningar

Bearbetningsflödet följer två huvudvägar:

För uppladdning av data:

1. Dokument som lagras i Amazon S3-buckets bearbetas av AWS Lambda-funktioner för uppdelning och chunking
2. Textsegmenten skickas till inbäddningsmallen för att konverteras till vektorer
3. Inbäddningar lagras och indexeras i den valda vektordatabasen

För generering av svar:

1. Användaren skickar en uppmaning
2. Uppmaningen levereras till en inbäddningsmall
3. Modellen omvandlar meddelandet till en vektor för semantisk sökning i arkiverade dokument
4. De mest relevanta resultaten returneras till LLM
5. LLM genererar svaret med hänsyn till de mest liknande resultaten och de första uppmaningarna
6. Det genererade svaret levereras till användaren

Fördelar med AWS RAG-arkitektur

AWS lyfter fram flera viktiga fördelar med denna modulära arkitektur:

• Modularitet och skalbarhet: "Den modulära karaktären hos RAG-arkitekturen och användningen av Infrastructure as Code (IaC) gör det enkelt att lägga till eller ta bort AWS-tjänster efter behov. Med AWS Managed Services hjälper den här arkitekturen till att hantera ökad trafik och dataförfrågningar automatiskt och effektivt, utan föregående provisionering."
• Flexibilitet och smidighet: "Den modulära RAG-arkitekturen gör att nya tekniker och tjänster kan implementeras snabbare och enklare utan att vi behöver revolutionera molnarkitekturen helt och hållet. Detta gör att vi kan vara mer flexibla när det gäller att svara på förändrade marknads- och kundbehov."
• Anpassning till framtida trender: "Den modulära arkitekturen separerar orkestrering, generativa AI-modeller och vektorlager. Var för sig är dessa tre moduler områden där det pågår aktiv forskning och kontinuerlig förbättring."

Vektorteknik: Hjärtat i RAG Architecture

En viktig del av RAG-arkitekturen är vektordatabasen. AWS påpekar att "eftersom alla data (inklusive text, ljud, bilder eller video) måste konverteras till inbäddningsvektorer för att generativa modeller ska kunna interagera med dem, spelar vektordatabaser en viktig roll i generativa AI-baserade lösningar."

AWS stöder denna flexibilitet genom att erbjuda flera alternativ för vektordatabaser:

• Traditionella databaser som OpenSearch och PostgreSQL med extra vektorfunktionalitet
• Dedikerade vektordatabaser med öppen källkod, t.ex. ChromaDB och Milvus
• Native AWS-lösningar såsom Amazon Kendra

Valet mellan dessa alternativ "kan vägledas av svaren på frågor som hur ofta nya data läggs till, hur många frågor som skickas per minut och om de frågor som skickas är i stort sett likartade".

‍

Modellintegrerade AI-arkitekturer: Den neurala metoden

Medan AWS RAG-arkitektur är implementerad som ett distribuerat system över flera molntjänster, har andra AI-system en mer integrerad strategi, där modularitetsprinciper finns inom en enhetlig neural arkitektur.

Fallet med avancerade IA-assistenter

Avancerade AI-assistenter, till exempel de som baseras på de senaste LLM-modellerna, använder liknande principer som RAG men med vissa betydande arkitektoniska skillnader:

1. Neural integration: De funktionella komponenterna (förståelse av frågor, informationssökning, generering av svar) är integrerade i den neurala arkitekturen, snarare än fördelade på separata tjänster.
2. Konceptuell modularitet: Modularitet finns på en konceptuell och funktionell nivå, men inte nödvändigtvis som fysiskt separata och utbytbara komponenter.
3. Enhetlig optimering: hela bearbetningspipelinen optimeras under utbildnings- och utvecklingsfasen, i stället för att konfigureras av slutanvändaren.
4. Djup integration av hämtning och generering: Hämtningssystemet är djupare integrerat i genereringsprocessen, med dubbelriktad återkoppling mellan komponenterna, snarare än en strikt sekventiell process.

Trots dessa skillnader i implementering delar dessa system de grundläggande principerna för RAG: att berika en språkmodell med relevant extern information för att öka precisionen och minska hallucinationer genom att skapa en arkitektur som separerar (åtminstone konceptuellt) de olika bearbetningsstegen.

‍

Designprinciper för flexibla IA-arkitekturer

Oavsett vilket tillvägagångssätt som används finns det universella designprinciper som främjar flexibilitet i AI-arkitekturer:

Modulär design

Verkligt flexibla plattformar för artificiell intelligens använder modulära arkitekturer där komponenter kan uppgraderas eller bytas ut oberoende av varandra utan att hela systemet behöver ändras. Både AWS och integrerade AI-system följer denna princip, om än med olika implementeringar.

Modell-Agnostisk strategi

Flexibla plattformar upprätthåller separationen mellan affärslogik och den underliggande AI-implementeringen, vilket gör att de underliggande AI-komponenterna kan ändras i takt med att tekniken utvecklas. Detta är särskilt tydligt i AWS-arkitekturen, där modellerna enkelt kan bytas ut.

API-först-design

De mest anpassningsbara systemen för artificiell intelligens prioriterar programmatisk tillgänglighet genom omfattande API:er, snarare än att enbart fokusera på fördefinierade användargränssnitt. I AWS-arkitekturen exponerar varje komponent väldefinierade gränssnitt, vilket underlättar integration och uppdatering.

Infrastruktur för kontinuerlig distribution

Flexibla arkitekturer kräver en infrastruktur som är utformad för frekventa uppdateringar utan serviceavbrott. Denna princip tillämpas både i distribuerade system som AWS-arkitekturen och i integrerade AI-modeller, om än med olika mekanismer.

Ramverk för utökad tillgänglighet

Verkligt flexibla plattformar erbjuder ramverk för kundspecifika tillägg utan att leverantören behöver ingripa. Detta är tydligast i distribuerade system, men även inbäddade AI-modeller kan erbjuda olika former av kundanpassning.

Balansen mellan anpassningsförmåga och stabilitet

Samtidigt som man betonar arkitektonisk flexibilitet är det viktigt att inse att affärssystem också kräver stabilitet och tillförlitlighet. För att balansera dessa till synes motsägelsefulla krav krävs:

Stabila gränssnittskontrakt

Medan interna implementationer kan ändras ofta är det viktigt att upprätthålla strikta stabilitetsgarantier för externa gränssnitt, med formella policyer för versionshantering och support.

Progressiv förbättring

Nya funktioner bör införas genom additiva förändringar snarare än genom ersättningar när så är möjligt, så att organisationerna kan ta till sig innovationer i sin egen takt.

Kontrollerad uppdateringsfrekvens

Uppgraderingar bör följa ett förutsägbart och kontrollerat schema som balanserar kontinuerlig innovation med driftsstabilitet.

Framtida konvergens: Mot hybridarkitekturer

Framtidens AI-arkitekturer kommer sannolikt att präglas av en konvergens mellan det distribuerade tillvägagångssättet som exemplifieras av AWS RAG och det integrerade tillvägagångssättet för avancerade AI-modeller. Betydande trender kan redan skönjas:

Multimodal konvergens

Artificiell intelligens rör sig snabbt bort från bearbetning i ett enda läge till enhetliga modeller som fungerar sömlöst i olika lägen (text, bild, ljud, video).

Utbredningen av specialiserade modeller

Samtidigt som utvecklingen av generella modeller fortsätter, ökar också utvecklingen av specialiserade modeller för specifika domäner och uppgifter, vilket kräver arkitekturer som kan samordna och integrera olika modeller.

Kontinuum Edge-Cloud

Bearbetning av artificiell intelligens distribueras i allt högre grad i ett kontinuum från molnet till edge, med distribuerade modeller där prestanda, kostnader och datakrav kan balanseras på ett mer effektivt sätt.

Harmonisering av regelverk

I takt med att de globala AI-reglerna mognar förväntar vi oss en ökad harmonisering av kraven mellan olika jurisdiktioner, eventuellt tillsammans med certifieringsramverk.

‍

Slutsats: Framtidens nödvändighet

I ett snabbt föränderligt område som artificiell intelligens är den viktigaste egenskapen hos en plattform inte dess nuvarande kapacitet, utan dess förmåga att anpassa sig till framtida framsteg. Organisationer som väljer lösningar som i första hand baseras på dagens kapacitet begränsar ofta morgondagens möjligheter.

‍

Genom att prioritera arkitekturflexibilitet genom principer som modulär design, modellagnostiska tillvägagångssätt, API-first-tänkande, infrastruktur för kontinuerlig driftsättning och robust utbyggbarhet kan organisationer bygga AI-kapacitet som utvecklas i takt med tekniska framsteg och affärsbehov.

AWS konstaterar att "utvecklingstakten för generativ AI är oöverträffad" och att endast verkligt modulära och flexibla arkitekturer kan säkerställa att dagens investeringar fortsätter att generera värde i morgondagens snabbt föränderliga tekniklandskap.

‍

Kanske tillhör framtiden inte bara dem som bäst kan förutspå vad som komma skall, utan också dem som bygger system som kan anpassa sig till vad som än dyker upp.