6 största affärsmisstag orsakade av AI | AI i affärer #58

Hur undviker man affärsmisstag vid implementering av AI?

Affärsmisstag inom AI kan få allvarliga konsekvenser för företag, så du behöver testa maskininlärningssystem mycket noggrant innan du lanserar dem på marknaden. Annars kan stora investeringar i ny teknik sluta i en stor finansiell och reputationsmässig katastrof.

Så hur undviker man affärsmisstag vid implementering av artificiell intelligens? Medan det första rådet kan verka för enkelt för att fungera, är det: “Var uppmärksam på datakvalitet!”

Det andra rådet handlar om omfattande testning i en sluten miljö innan verktyget släpps till allmänheten. Du bör inte bara testa verktygets tekniska prestanda utan också verifiera dess:

• etiska efterlevnad — målet med testerna är att minska den partiskhet och de stereotyper som reproduceras av AI,
• juridiska efterlevnad — verifiera att de data som används av AI-verktyg, liksom det innehåll de genererar, följer landets lagar.

Även jättarna inom artificiell intelligens följer inte detta råd idag, och släpper ut chattbotar i världen märkta som “tidiga experiment” eller “forskningsprojekt.” Men när teknologin mognar och lagar som reglerar användningen av artificiell intelligens träder i kraft, kommer dessa frågor att bli mer pressande.

Google Photos

Listan över affärsmisstag relaterade till användningen av artificiell intelligens börjar med ett fall från 2015. Det var då Google Photos-appen, som använde en tidig version av artificiell intelligens för bildigenkänning (datorseende), felaktigt märkte foton av svarta personer som foton av gorillor. Detta affärsmisstag inträffade eftersom träningsdatasettet som användes för att lära algoritmen innehöll för få foton av svarta personer.

Vad mer är, Google hade ett liknande problem med en Nest smart hemkamera, som felaktigt identifierade vissa mörkhyade personer som djur. Dessa incidenter visar att datorseendesystem fortfarande har problem med att känna igen egenskaper hos olika raser.

Affärsmisstag: Åldersdiskriminering

År 2023 gick iTutor Group med på att betala 365 000 dollar för att lösa en stämning över användningen av diskriminerande rekryteringsprogramvara. Programvaran visade sig automatiskt ha avvisat kvinnliga kandidater över 55 år och kandidater över 60 år, utan att ta hänsyn till deras erfarenhet eller kvalifikationer.

Amazon misslyckades också med liknande affärsmisstag. Redan 2014 arbetade företaget med AI för att hjälpa till med anställningsprocessen. Systemet hade svårt att utvärdera kvinnliga kandidaters CV:n eftersom det lärde sig från data som mestadels bestod av dokument som lämnats in av män. Som ett resultat övergav Amazon projektet för att implementera artificiell intelligens i processen.

Dessa fall visar att automatisering av rekryteringsprocessen medför risken att upprätthålla partiskhet och behandla kandidater orättvist.

Källa: DALL·E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

ChatGPT uppfinner falska rättspraxis

Ett annat fall är mycket samtida. År 2023 använde advokat Steven A. Schwartz ChatGPT för att hitta tidigare rättsfall för en stämning mot flygbolaget Avianca. Det visade sig dock att minst sex av de fall som tillhandahölls av AI var falska – de innehöll felaktiga namn, ärendenummer och citat.

Detta hände eftersom stora språkmodeller (LLM) hallucinerar, dvs. de skapar sannolika svar när de inte kan hitta de rätta fakta. Därför är det nödvändigt att kontrollera deras svar varje gång. Och Schwartz hoppade över detta steg. Därför bötfällde domaren honom med 5 000 dollar för “grov vårdslöshet”.

Affärsmisstag: Apple Watch som inte fungerar ordentligt på personer med mörkare hud

Enligt en grupptalan från 2021 fungerar blodsyre-appen på Apple Watch inte ordentligt för personer med mörkare hudtoner. Apple hävdar att de har testat appen på en “bred variation av hudtyper och toner”, men kritiker säger att teknikprodukterna fortfarande inte är designade med mörkhyade personer i åtanke.

Källa: DALL·E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Zillow inom fastighetsbranschen

Zillow, ett fastighetsföretag, lanserade Zillow Offers, ett program för att köpa hem och snabbt sälja dem, 2018. CNN rapporterade att Zillow hade köpt 27 000 hem sedan lanseringen i april 2018, men endast sålt 17 000 vid slutet av september 2021. Zillow sa att affärsmisstaget orsakades av deras användning av artificiell intelligens. Algoritmen förutspådde felaktigt bostadspriser, vilket ledde till att Zillow överbetalade för inköpen. Även om företaget omedelbart stängde programmet, var de tvungna att säga upp 25 procent av sin personal. Genom att oavsiktligt köpa hem till priser högre än nuvarande uppskattningar av framtida försäljningspriser, redovisade företaget en förlust på 304 miljoner dollar.

Microsofts rasistiska chattbot

År 2016 släppte Microsoft en experimentell AI-chattbot kallad Tay. Den skulle lära sig genom att interagera med Twitter (nu X) användare. Inom 16 timmar “lärde” sig Tay att posta stötande, rasistiska och sexistiska tweets. Twitter-användare provocerade medvetet boten, som inte hade de rätta säkerhetsmekanismerna som används i chattbotar idag, såsom ChatGPT, Microsoft Copilot och Google Bard. Microsoft inaktiverade snabbt boten och bad om ursäkt för incidenten, men Tay är ett av Microsofts större affärsmisstag.

En chattbot-misstag inträffade också för Google, som släppte en bot vid namn Meena 2020. Meta (tidigare Facebook) lyckades också inte undvika ett liknande misstag. I augusti 2022 lanserade de en ny AI-chattbot kallad BlenderBot 3, som var designad för att chatta med människor och lära sig av dessa interaktioner.

Inom dagar efter sin lansering kom det rapporter om att chattboten gjorde stötande, rasistiska och faktamässigt felaktiga uttalanden i samtal. Till exempel påstod den att Donald Trump vann det amerikanska valet 2020, spred antisemitiska konspirationsteorier och kritiserade Facebook.

Om du gillar vårt innehåll, gå med i vår aktiva community av busy bees på Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.