När AI väljer vägen behöver användaren kunna styra om

Tänk dig att du ber en AI-assistent planera en arbetsresa. Den hittar avgångar, väljer hotell och lämnar ett färdigt förslag. Du slipper leta i menyer. Men vilket val gjorde den när ett billigare hotell innebar längre restid?

Det är där nästa designuppgift börjar. När en tjänst går direkt från önskemål till resultat behöver den visa vilka prioriteringar som formade resultatet. Annars blir det svårt att upptäcka en feltolkning innan den blir en bokning.

Från att hitta rätt till att kunna styra om

I A new navigation paradigm argumenterar Francisco Nunes för att AI flyttar navigeringen till en agent snarare än får den att försvinna. Det är en användbar utgångspunkt. Vår slutsats är att designarbetet då behöver flytta närmare de beslut som agenten fattar åt användaren.

En meny visar möjliga vägar genom en produkt. Ett AI-svar visar ofta en enda sammanhängande leverans. För användaren är skillnaden praktisk: det som tidigare var ett aktivt val kan nu ligga inbakat i ett förslag.

I det tänkta reseexemplet behöver tjänsten därför synliggöra att den prioriterade pris framför restid. Då går det att säga ”behåll avgången, men välj ett hotell nära mötet”. Användaren ska kunna ändra ett viktigt val utan att börja om med hela uppdraget.

Det här är vårt designförslag, inte en beskrivning av en specifik reseprodukt. Samma fråga går att ställa till en assistent som gör en budget, sammanställer kundärenden eller tar fram ett beslutsunderlag: vilka antaganden behöver jag kunna ändra?

Förklara beslutet där det går att ändra

Redan 2019 publicerade Microsoft Research riktlinjer för samspelet mellan människor och AI. De tar bland annat upp att göra fel enkla att korrigera, hantera otydliga mål och låta användaren få en förklaring till systemets beteende.

När AI också utför handlingar blir dessa principer konkreta. En förklaring hjälper mest när den hör ihop med ett val som går att påverka. ”Jag valde det billigaste alternativet” behöver följas av ett sätt att ändra prioriteringen.

Det kräver inte att varje internt steg visas. En lång logg kan ge mycket information och ändå lämna användaren utan möjlighet att ingripa. Det relevanta är att visa de antaganden, urval och konsekvenser som påverkar uppdragets utfall.