Bak kulissene på Enonics nye AI

Enonic har aktivt jobbet med å integrere AI-verktøy i sitt økosystem, med fokus på å utvikle funksjoner som hjelper redaktører med å effektivisere sine arbeidsflyter. I denne forbindelsen ble et verktøy kalt "Juke AI" nylig introdusert på en Meetup.

Juke AI er allerede tilgjengelig på utviklerportalen. Her fungerer den som en chatbot som hjelper brukere ved å besvare spørsmål om Enonic og til og med generere kodebiter. Det er drevet av Googles AI-teknologi og pakket inn i et maskotlignende grensesnitt for å tilby en brukervennlig opplevelse.

Se vår presentasjon om Juke AI (engelsk):

Visjonen for AI-integrasjon i Content Studio

Enonics tilnærming til AI er sentrert rundt å skape en "AI-kollega" som føles som en del av teamet. I motsetning til typiske AI-integrasjoner som fokuserer på generelle oppgaver eller skriving av store tekstblokker, er Enonics Content Studio basert på strukturert innhold, som oppfører seg mer som en database.

Dette har skapt unike utfordringer for effektiv AI-integrasjon, inkludert utformingen av brukergrensesnittet, valg av modeller, pålitelighet, hastighet, sikkerhet og kostnadsbetraktninger.

Det langsiktige målet er at AI-en skal gjøre mer enn å hjelpe med å fylle ut skjemaer. Målet er at den skal håndtere oppgaver som å lage nye sider, utføre masseoppdateringer og administrere kjedelige, repeterende handlinger for å holde innholdet oppdatert.

Visjonen vår innebærer å utstyre AI-en med en organisasjons digitale strategi, tilpassede instruksjoner og spesifikk domenekunnskap for å sikre at funksjonaliteten er skreddersydd til hver brukers behov.

Prototyping og utviklingsreise

Utviklingen startet i januar 2024 under kodenavnet "Saga." Tidlige prototyper brukte OpenAIs 3.5 Turbo- og 4.0-modeller via Assistant API, som tillot tilstandsbevarende samtaler. Teamet eksperimenterte også med React for brukergrensesnittet.

Innen midten av året hadde Enonic en fungerende demo som integrerte et chatbasert grensesnitt i stand til å referere til spesifikke felt i strukturerte skjemaer. For eksempel kunne brukere be om forslag til et "TextArea"-felt, og AI-en genererte relevant innhold som brukeren kunne sette inn sømløst.

Utfordringer dukket opp, inkludert håndtering av begrensninger på inputstørrelser (målt i tokens), sikre konsistente JSON-svar og balansere ytelse med brukerforventninger.

Enonic innså at tilstandsbevarende API-er, som OpenAIs Assistant API, hadde begrensninger på grunn av lagringsbekymringer og kompatibilitet med Content Studios integrasjonskrav.

Les også: AI-loven fra EU – hva den betyr for digitale opplevelser »

Innføring av Googles Vertex AI

For å løse disse problemene utforsket Enonic Googles Vertex AI og Gemini-modeller. Vertex AI tilbød fordeler som:

• Store kontekststørrelser: Støtte for millioner av tokens for større inputs.
• Kostnadseffektivitet: Rimelig i stor skala.
• Hastighet: Raskere responstider sammenlignet med OpenAI i noen scenarier.
• Modellfleksibilitet: Tilgang til over 150 modeller, inkludert Gemini, Llama og Claude, via "Model Garden." Dette eliminerer behovet for å administrere flere API-er eller selv drifte modellene.

Fleksibiliteten til Vertex AI samsvarer med Enonics behov for forskjellige modeller og tilnærminger, fra enkle klassifiseringsoppgaver til mer komplekse innholdsopprettinger.

Nøkkelfunksjoner demonstrert

1. AI Copywriter

AI Copywriter lar redaktører utarbeide innhold direkte i Content Studio. Brukere kan samhandle med AI-en via et chatbasert grensesnitt og be den om å generere tekst for felt som blogginnlegg. Nøkkelfunksjoner inkluderer:

• Feltspesifikke svar: AI-en jobber innenfor konteksten til individuelle felt, noe som muliggjør presis innholdsopprettelse.
• Innstillingsmuligheter: Redaktører kan kopiere, sette inn eller bruke alt AI-generert innhold direkte i sine skjemaer.
• Flertrinns-prompting: Komplekse forespørsler håndteres med flere iterasjoner og til og med kommunikasjon mellom forskjellige modeller for å sikre nøyaktige svar.

For eksempel kan en bruker be AI-en om å utarbeide et blogginnlegg i en spesifikk tone (f.eks. "bro style"). Verktøyet genererer deretter innhold mens det opprettholder strukturert output, som å foreslå spesifikke overskrifter eller innholdsseksjoner.

Fremtidige iterasjoner kan inkludere generering av innhold i parti og oppgavehåndtering, som å lage flere blogginnlegg samtidig.

2. AI Translator

AI Translator hjelper til med å lokalisere innhold til forskjellige språk og tilbyr en sømløs måte å håndtere flerspråklige nettsteder på. Demonstrerte funksjoner inkluderer:

• Felt-for-felt-oversettelse: AI-en låser feltene mens oversettelser behandles og injiserer resultatene så snart de er klare.
• Tilpasning: Redaktører kan legge til oversettelsesinstruksjoner, som tone eller spesifikke ordforrådspreferanser.
• Høyhastighetsprosessering: Parallelle forespørsler sendes for hvert felt, noe som muliggjør raske oversettelser selv for komplekse flerfeltskjemaer.

I fremtiden kan denne funksjonaliteten utvides til å inkludere auto-oversettelsestrinn for backend-arbeidsflyter, noe som ytterligere forbedrer effektiviteten for multinasjonale nettsteder.

Les mer: Hva er på gang? Enonic AI-innholdsagent »

Underliggende teknologi og utfordringer

Enonics AI-verktøy er avhengige av avanserte prompting-teknikker og backend-optimaliseringer for å levere nøyaktige, strukturerte svar. For eksempel:

• Prompter inkluderer ofte detaljerte instruksjoner og eksempler for å veilede AI-en i å generere relevante resultater.
• Responsformater må samsvare med behovene for strukturert data, vanligvis ved bruk av JSON for konsistens.
• Håndtering av store inputstørrelser og parallell behandling sikrer hastighet og pålitelighet uten å gå på akkord med kvaliteten.

Enonics team har også tatt grep for å håndtere bekymringer rundt personvern og datasikkerhet. Data som deles med AI-en inkluderer skjema-definisjoner, eksisterende feltverdier og brukerens instruksjoner, men dette håndteres per forespørsel uten langtidslagring. Googles Vertex AI sikrer at forretnings-API-er brukt til disse oppgavene ikke bruker klientdata til modelltrening.

Fremtidsplaner

Enonic har som mål å videreutvikle disse verktøyene, inkludert:

• Tilpassede AI-konfigurasjoner: Organisasjoner vil kunne trene AI-en med spesifikke dokumenter for tone of voice eller tidligere innholdsstiler for å forbedre kontekstuell relevans.
• Avansert lokalisering: Oversetteren kan ta hensyn til variasjoner i ordlengde og designbegrensninger, som tegnbegrensninger i spesifikke felt.
• Avatar-tilpasning: Redaktører kan personalisere AI-ens avatar og navn for en mer relaterbar opplevelse, og gjøre den til en fullverdig "digital kollega".

Lansering

Den første lanseringen av disse AI-funksjonene vil komme med Content Studio 5.3 i januar 2025, inkludert både AI Copywriter og AI Translator-appene. Disse vil være tilgjengelige for betalende kunder, hvor Enonic dekker prompting-kostnadene. For kunder som administrerer sine egne miljøer, vil oppsett og konfigurasjon innebære å skaffe tokens og justere grunnleggende innstillinger.

Enonics forpliktelse til skalerbarhet, fleksibilitet og brukersentrert design sikrer at AI blir en integrert del av innholdsforvaltningen, slik at redaktører kan jobbe smartere og raskere mens de fokuserer på kreativitet og strategi.