Ansvarsfordelingen i disse scenarier er juridisk kompleks. Når en tredjepartsleverandør som OpenAI leverer en API, afhænger det juridiske ansvar af de specifikke SLA-aftaler (Service Level Agreements) og de terms of service, som kunden har accepteret. Hvis en fejl i AI-modellen fører til et databrud i et system som det australske Medicare, vil ansvaret ofte blive delt mellem systemoperatøren og teknologileverandøren. Operatøren har det primære ansvar for at sikre, at data håndteres korrekt i deres egen implementering, men hvis fejlen ligger direkte i leverandørens infrastruktur, kan OpenAI blive mødt med erstatningskrav.
Etisk set står virksomhederne over for en tungere byrde. De udvikler værktøjer med enorme implikationer for samfundssikkerheden. Et brud på følsomme sundhedsdata via en AI-model rejser spørgsmål om 'duty of care'. Virksomhederne kan ikke blot gemme sig bag komplekse kontraktvilkår, når deres teknologi interagerer med kritisk infrastruktur. De bærer et moralsk ansvar for at implementere robuste sikkerhedsbarrierer, så de minimerer risikoen for utilsigtede datalæk. Det handler om at sikre, at teknologien ikke underminerer tilliden til de offentlige institutioner, som borgerne er afhængige af.
