Artificiële Intelligentie (AI) is onze werkplek grondig aan het veranderen. Wat begon met een paar experimenten met ChatGPT is uitgegroeid tot een stevig ecosysteem waarin de grootste spelers om de haverklap een nieuw of verbeterd model lanceren. Die snelle ontwikkelingen zorgen er ook voor dat bedrijven zich vragen beginnen te stellen over het gebruik, de veiligheid en de kosten van AI op lange termijn.
Eén ding is voor ons wel duidelijk: de toekomst van AI bevindt zich niet in de cloud. Althans niet uitsluitend in de cloud. Organisaties botsen steeds vaker tegen de limieten van cloudmodellen. Zo werken ze bijvoorbeeld vaak met gevoelige data die ze liever binnen de veilige bedrijfsmuren houden. Zeker nu soevereiniteit zowel in zakelijke als in politieke kringen een hot topic is, lijkt het absurd dat we al onze geheimen zomaar aan een AI-model in de cloud zouden toevertrouwen.
Ook kosten zijn een belangrijke reden waarom organisaties hun AI-gebruik onder de loep nemen. Net zoals enkele jaren geleden maken ze zich zorgen over de onvoorspelbare kosten van de cloud. Daar komt nu ook nog eens de prijs van tokens bij. In principe gaan die tarieven in de komende jaren alleen maar toenemen. En zelfs als de tokenkost stabiel zou blijven, dan zal de AI-factuur nog altijd fors stijgen door het feit dat we modellen steeds intensiever gebruiken. In de marge hiervan zien we ook dat opensourcemodellen voor veel taken een interessant alternatief bieden.
En dan zijn er nog de operationele beperkingen van werken in de cloud. De snelheid van een AI-model hangt in grote mate af van de connectie. Bij een probleem met een cloudprovider zal ook de verwerking van AI-workloads vertraging oplopen. En waar AI in de cloud meestal behoorlijk werkt voor medewerkers op kantoor, ligt dit niet voor de hand bij collega’s die het grootste deel van de dag op de baan zijn en soms niet over een goede internetverbinding beschikken.
De voordelen van een hybride aanpak
De toekomst van AI ligt daardoor dus niet meer exclusief in de cloud. Voor veel organisaties zit het antwoord in het midden: in een mix van cloud, on-premises infrastructuur én on-device. Net zoals onze manier van werken, veranderen immers ook de apparaten die medewerkers gebruiken. Van smartphones en tablets tot laptops: steeds meer workloads zullen op ons toestel draaien. Apple heeft bijvoorbeeld een uitgebreid platform met toepassingen die het mogelijk maken om taken, zoals coderen, met lokale modellen uit te voeren op een iPhone, iPad of MacBook.
On-device AI biedt een antwoord op meerdere uitdagingen die we hierboven hebben aangehaald. Door AI rechtstreeks op apparaten te gebruiken, hoeven we ons geen zorgen te maken over de veiligheid van vertrouwelijke data. De informatie hoeft ons toestel niet te verlaten, waardoor data niet naar een openbare omgeving wordt gestuurd. Ook van de stijgende kost voor tokens of cloud hoeven we dankzij on-device AI niet meer wakker te liggen. En natuurlijk zorgt on-device AI er ook voor dat mobiele medewerkers de hele dag door productief en efficiënt kunnen blijven.
Breng je persona in kaart en kijk naar TCO
Dankzij de tools op het Apple-platform is het mogelijk om eigen applicaties te bouwen, maar kan je evengoed gebruik maken van lokale opensourcemodellen. Organisaties kunnen afhankelijk van de toepassing bepalen of ze AI lokaal of in de cloud laten draaien. In een hybride AI-omgeving voer je lichte en gevoelige taken bijvoorbeeld rechtstreeks op het apparaat uit, terwijl meer veeleisende taken soms het gebruik van een cloudmodel kunnen vereisen. In operationele omgevingen biedt edge-infrastructuur een pak voordelen om AI snel en efficiënt in te schakelen.
De keuze voor een apparaat hangt natuurlijk ook in grote mate af van de persona in je organisatie. Een ontwikkelaar of grafisch designer heeft veel baat bij een krachtig toestel dat een AI-model snel lokaal kan gebruiken. In de cloud zouden zij immers bijzonder veel tokens verbruiken, met enorme kosten tot gevolg. Een salesvertegenwoordiger die voortdurend bij klanten zit, zal een stuk efficiënter zijn met een toestel dat over een sterke batterij beschikt en offline mogelijkheden zoals on-device AI aanbiedt. Een administratief medewerker of receptionist heeft wellicht al voldoende met een basistoestel dat het dagelijkse werk ondersteunt.
Door op deze manier te werken, gaat je organisatie ook de kost van hardware anders benaderen. In plaats van enkel de aankoopprijs in overweging te nemen, omvat de Total Cost of Ownership (TCO) ook factoren zoals onderhoudskosten, levensduur, IT-beheer en restwaarde. Gemiddeld is een Apple-apparaat wel duurder in aankoop, maar volgens een studie van Forrester besparen gebruikers over een periode van vijf jaar zo’n $760 per toestel. Bovendien hoeft niet iedereen over een krachtige Mac Studio te beschikken. De kostprijs van een MacBook Neo ligt veel lager en geeft gebruikers toegang tot de voordelen van een Apple-apparaat, inclusief on-device capaciteiten.
Stap voor stap, geen big bang
In tijden van AI is het nog relevanter om toestelkeuze op de noden van je bedrijf en gebruikers af te stemmen. Als je organisatie wil inzetten op on-device AI en het Apple-ecosysteem, dan hoeft dat niet via een big bang te gebeuren. Ga eerst na waarvoor je medewerkers hun apparaat vandaag gebruiken, welke behoeften ze hebben, hoe IT de apparaten doorheen hun levenscyclus beheert en welke toestellen je aan welke profielen aanbiedt. Nadien kan je de keuzemogelijkheden naar een breder publiek uitbreiden op basis van ervaringen en bedrijfsresultaten.
Econocom zit op de eerste rij van alle nieuwe ontwikkelingen en kan je organisatie helpen om de juiste keuzes te maken. We geven advies bij het selecteren van apparaten en het opstellen van de verschillende persona in je organisatie. We ondersteunen de integratie van nieuwe ecosystemen, zoals Apple, in je bestaande IT-omgeving. En we kunnen begeleiding bieden doorheen de volledige levenscyclus van een apparaat.
Interesse in on-device AI? Dan helpen we je graag bij het beoordelen van het potentieel voor jouw organisatie. We kunnen ook voor een hands-on ervaring op je kantoor zorgen. Geef ons zeker een seintje als je de mogelijkheden wil bekijken.
Contacteer ons hier.
