Het implementeren van oplossingen met kunstmatige intelligentie (AI) en machine learning (ML) brengt belangrijke beslissingen met zich mee. Een van de meest relevante beslissingen is bijvoorbeeld of er gebruik moet worden gemaakt van commercieel verkrijgbare grote taalmodellen (LLM's) of dat er een eigen model moet worden ontwikkeld. Hoewel er hybride modellen bestaan, zal deze discussie zich richten op deze twee belangrijkste benaderingen. Er zijn een aantal cruciale factoren die van invloed zijn op deze beslissing, waaronder de specifieke doelstellingen van het initiatief, het belang van AI/ML voor het succes ervan, beschikbare vaardigheden en middelen, verwachte groei en gebruik, en budgettaire overwegingen.
Gezien deze factoren, wanneer is een commerciële LLM dan de juiste studierichting?
- Tijdsbeperkingen: De mogelijkheid tot directe implementatie van een commercieel LLM kan de doorlooptijd aanzienlijk verkorten. Als u snel resultaten nodig hebt of een proof of concept (POC) wilt uitvoeren om de waarde van AI/ML te beoordelen, kan een commercieel verkrijgbaar LLM het proces versnellen. Het ondersteunt een 'Fail Fast'-aanpak voor innovatie door snelle tests mogelijk te maken zonder dat er infrastructuur hoeft te worden opgezet of modellen hoeven te worden afgestemd.
- Beperkte middelen : Of u nu bestaande AI/ML-projecten wilt verbeteren of helemaal opnieuw wilt beginnen, het benutten van AI en ML biedt exponentieel groeiende mogelijkheden. Het is echter onpraktisch om voor alle toekomstige kansen de benodigde middelen te reserveren. Een commercieel verkrijgbare LLM (Learning Learning Module) kan dit traject vereenvoudigen en de overheadkosten verlagen. Het kan uw behoefte aan: Technische expertise verminderen: Als u geen expertise hebt in machine learning en natuurlijke taalverwerking, kan het gebruik van een commerciële LLM de technische belasting verlagen en de kloof overbruggen totdat u intern personeel kunt aannemen of opleiden. Rekenkracht: Hoewel het trainen van LLM's aanzienlijke rekenkracht vereist, worden commerciële LLM's gehost op een robuuste infrastructuur, waardoor ze naar behoefte kunnen worden opgeschaald. Onderhoud en updates: Aanbieders van commerciële LLM's verzorgen doorgaans updates, onderhoud en verbeteringen, waardoor u tijd, middelen en uiteindelijk geld bespaart.
- Schaalbaarheid en kostenbeheer : Bij de start van een nieuw project is het voorspellen van de groei een uitdaging. Weinig bedrijven realiseren perfecte groeiprognoses, dus het minimaliseren van kapitaaluitgaven en de impact op de cashflow is cruciaal om een slechte klantervaring te voorkomen. Het gebruik van een commercieel LLM-systeem maakt een goedkope start mogelijk, waardoor het risico beperkt blijft totdat de functionaliteit bewezen is en de acceptatie versnelt.
Het afstemmen van de schaal op de kosten kan een uitdaging zijn, vooral voor nieuwe initiatieven zonder bewezen markt. Door gebruik te maken van een commercieel LLM-model (Large-Large Model) worden risico's beperkt doordat de kosten worden afgestemd op de huidige vraag. Bovendien wordt het beheer van grote schaalveranderingen vereenvoudigd, zonder dat er infrastructuur hoeft te worden beheerd.
Bij Proactis hebben we commerciële LLM's (Learning Lifecycle Models) gebruikt om verschillende proof-of-concepts te versnellen en een oplossing zo'n 12 maanden eerder op de markt te brengen dan wanneer we een LLM intern hadden ontwikkeld. Deze aanpak stelt ons in staat om de infrastructuurcapaciteit en de schaalbaarheid van het model nauwkeurig af te stemmen op de productgroei en de acceptatie door klanten.
Op basis van wat tot nu toe is besproken, lijkt het zo voor de hand liggend om alleen commerciële LLM-programma's als de beste optie te beschouwen, vooral in de beginfase. Ze zijn echter niet altijd de perfecte of haalbare oplossing.
Wanneer is het dan een goed moment om je eigen Document LLM te ontwikkelen?
Als je teruggaat naar de oorspronkelijke factoren waarmee je rekening moet houden bij het bepalen van de te volgen koers, kijk dan naar wat je uiteindelijk wilt bereiken.
Binnen Proactis hebben we bijvoorbeeld een aantal projecten lopen die zich richten op het benutten van kennis die deel uitmaakt van ons DNA en die we de afgelopen 20 jaar hebben opgebouwd. Het is onderdeel van het 'geheime ingrediënt' waarmee we onze klanten op een manier bedienen die de concurrentie overtreft.
Bij een vorig bedrijf onderzochten we het gebruik van AI en machine learning om geavanceerde prijsalgoritmes te verbeteren voor initiatieven zoals het betreden van nieuwe markten en het bepalen van prijsdrempels of onderhandelingsdrempels voor langetermijnovereenkomsten. Deze drempels zijn bedoeld om leveranciers te beschermen tegen aanzienlijke marktschommelingen (bijvoorbeeld een stijging van de grondstofkosten, zoals stikstofmeststoffen na de pandemie) en ervoor te zorgen dat klanten profiteren van prijsaanpassingen als de productiekosten aanzienlijk dalen.
Geen van beide toepassingsscenario's is geschikt voor commerciële LLM-programma's, of het nu documentgerichte of wiskundige LLM-programma's zijn. De eisen zijn te specifiek en de resultaten van de beschikbare LLM-programma's schieten tekort om de noodzakelijke voordelen te bieden ter ondersteuning van de commerciële doelstellingen.
Enkele belangrijke factoren:
- Gespecialiseerde datavereisten. Beide voorbeelden bevatten data en processen die zeer gespecialiseerd zijn. Daarom is het bouwen van een specifiek model en het investeren van tijd in training nodig om het potentieel ervan te maximaliseren. Bij dergelijke voorbeelden, die tevens sleutelonderdelen zijn van een commerciële strategie om een doel te bereiken, zijn de benodigde tijd en investering directe factoren voor het uiteindelijke succes van het initiatief.
- Aanpassing en controle. Hoewel commerciële LLM's de mogelijkheid bieden om het proces of de output aan te passen of tot op zekere hoogte te personaliseren, zijn deze mogelijkheden per definitie beperkter. Dit komt vaak doordat een commerciële LLM een breed publiek wil bereiken en zo het rendement van de investering van de oorspronkelijke aanbieder wil maximaliseren. Door uw eigen LLM te bouwen, behoudt u volledige controle en de flexibiliteit om alles tot in detail af te stemmen, van de architectuur tot het proces en de gebruikte trainingsdata. U kunt het model blijven aanpassen en optimaliseren zonder de beperkingen van upgrades en releases of ingebouwde beperkingen voor factoren zoals prestaties, zoals bij een commerciële LLM wel het geval is.
- Kostenoverwegingen : We hebben de opstart- of installatiekosten als pluspunt van een commercieel LLM-model genoemd, dus hoe kan dat ook in dit onderdeel aan bod komen? Hoewel de initiële investering hoger is bij het ontwikkelen van een eigen LLM-model, kan het op de lange termijn kosteneffectiever zijn. Dit geldt met name als u een hoog gebruik en een grote doorvoer verwacht, of als u gebruik wilt maken van een breed scala aan mogelijkheden die een commercieel abonnementsmodel biedt. Als u bijvoorbeeld een basispakket van een commercieel LLM-model afneemt voor één prijs per pagina voor 1000 pagina's, en u wilt gebruikmaken van aangepaste elementen in hetzelfde model, dan is de prijs ongeveer vier keer zo hoog als de basisprijs per pagina voor dezelfde 1000 pagina's. De prijs van commerciële LLM-modellen wordt bepaald door een combinatie van volume en functionaliteit. Dus als u een hoog volume verwerkt of gebruik wilt maken van een breed scala aan aangeboden functionaliteiten, kunt u wellicht beter uw eigen model ontwikkelen.
- Gegevensprivacy en -beveiliging : Door uw eigen model te beheren, zorgt u ervoor dat gevoelige gegevens intern worden bewaard, waardoor het risico op datalekken of misbruik mogelijk wordt verkleind. In veel gevallen worden de gegevens die door een commercieel LLM-model worden verwerkt, niet bewaard en worden ze direct of na een bepaalde periode verwijderd. De gegevens worden echter wel buiten uw organisatie opgeslagen. Er zijn gegevens binnen organisaties waar het risico op een datalek ernstige gevolgen zou hebben, of op zijn minst een aanzienlijke impact op de reputatie van het bedrijf. De aard van de gegevens die u wilt verwerken, is een belangrijke factor in de beveiligingsaanpak die u hanteert.
Samenvatting
Soms is de beslissing om voor een commerciële LLM te kiezen of zelf een opleiding te volgen heel eenvoudig.
Gebruik een commerciële LLM als u een snelle, betrouwbare en schaalbare oplossing nodig hebt zonder ingrijpende aanpassingen, en als u gebruik wilt maken van bestaande expertise en infrastructuur.
Ontwikkel uw eigen LLM als u specifieke aanpassingen nodig hebt, volledige controle over het model en de gegevens wilt, wilt investeren in langetermijnbesparingen of specifieke eisen hebt op het gebied van gegevensbeheer. U wilt wellicht ook innovatie binnen uw bedrijf stimuleren en dit gebruiken als onderscheidend kenmerk of als factor die de waarde van uw bedrijf verhoogt.
Bij mijn laatste drie bedrijven hebben we beide benaderingen gebruikt om de algehele strategie binnen het bedrijf te sturen, en binnen Proactis hebben we momenteel initiatieven die elk van deze paden volgen. Door deze factoren zorgvuldig te overwegen, kunt u een weloverwogen beslissing nemen die aansluit bij uw strategische doelen en operationele mogelijkheden van uw eigen bedrijf.
Een laatste punt om te overwegen: één aanpak is mogelijk niet geschikt voor de gehele levenscyclus van een functionaliteit of product. Binnen Proactis hebben we een scenario waarin we een proof-of-concept (POC) hebben ontwikkeld en een zeer snelle eerste marktintroductie hebben gerealiseerd door gebruik te maken van een commercieel verkrijgbaar document, LLM. De verwachting is echter dat we op een later moment wellicht willen overstappen op ons eigen model. Naarmate de hoeveelheid data en de functionaliteiten die we op dat gebied van onze business willen aanbieden toenemen, zal een combinatie van het kostenprofiel en de mogelijkheid om aan onze behoeften te voldoen waarschijnlijk de doorslag geven bij een dergelijke overstap.
We hebben dit al vroeg in het ontwerpproces van de oplossing onderkend en gekozen voor een architectuur waarbij we relatief eenvoudig van model en bron kunnen wisselen. Hierdoor kunnen we de voordelen van elke aanpak benutten en de klantervaring en de waarde continu verbeteren.
Ontdek meer over hoe Proactis AI gebruikt.