Bing föreslår de värsta sakerna du kan föreställa dig

Om du använder Bings bildsökning kommer du att se den värsta smuts du kan tänka dig. Bing föreslår rasistiska termer och visar skrämmande bilder. Bing kommer även att föreslå att du söker efter utnyttjade barn om du har SafeSearch inaktiverat.

Vi kontaktade Microsoft för kommentarer, och Jeff Jones, Senior Director på Microsoft, gav oss följande uttalande:

"Vi tar väldigt seriöst saker av stötande innehåll och fortsätter att förbättra våra system för att identifiera och förhindra att sådant innehåll visas som en föreslagen sökning. Så snart vi blir medvetna om ett problem, vidtar vi åtgärder för att ta itu med det. "

Uppdatering: Sedan publiceringen har Microsoft arbetat med att städa upp de offensiva Bing-förslag som vi nämnde. Baserat på vår forskning finns det fortfarande många andra stötande förslag som ännu inte har fastställts, inklusive några som vi har nämnt nedan. Vi är osäkra om de helt enkelt fixar de offensiva objekt som vi påpekade, eller om de förbättrar algoritmen.

Notera: Skärmdumparna här visar vad vi såg när vi skrev den här delen och testa den amerikanska versionen av Bing Image-sökning i en Incognito privat browsing session, men Bings resultat ändras över tiden. Google hade inga av dessa problem, enligt våra test. Detta är ett Bing-problem, inte bara ett sökmotorproblem. Samma problem påverkar Bings videosökning.

Först får Bing Super Racist

Sök efter "judar" på Bing Images och Bing föreslår att du söker efter "Evil Jew." De bästa resultaten inkluderar också en meme som verkar fira döda judiska människor.

Allt detta visas även om Bings SafeSearch-alternativ är aktiverat, som det är som standard. SafeSearch är utformat för att "hjälpa till att hålla vuxeninnehåll ur sökresultaten", enligt Microsoft.

Att klicka på den här föreslagna sökningen frigör en ras av rasistiskt, antisemitiskt innehåll, med mer föreslagna sökningar som "Judiska folket är onda", "Den onda judiska rasen" och "Varför är judar så onda".

Vi vet alla att detta skräp finns på webben, men Bing ska inte leda folk till det med sina sökförslag.

Skriv in "muslimer är" och Bing kommer att föreslå att de är onda eller terrorister, eller helt enkelt föreslå att de är dumma.

Sök efter "svarta människor är" och Bing kommer att föreslå att svarta människor är fula, dumma, rasistiska och till och med vilseledda.

Du kan fortsätta så här, klicka på varje föreslagen sökning och se värre och sämre rekommendationer. Att klicka på "Svarta människor är dumma" leder till att "Svarta människor är olämpliga" och "Varför är svarta människor så dumma." Att klicka på "Svarta människor är olämpliga" leder till att "svarta människor suger" och "jag hatar svarta människor".

Bing pushar konspirationer, alltför

Bings bildsökning ger upphov till alla slags skräp, även när du söker efter personer. Detta problem sträcker sig också till Bings videosökning.

Sök efter "Michelle Obama" på Bings videosökning och två av de främsta föreslagna sökningarna är "Michelle Obama Transgender Proof" och "Michelle Obama är en man". Klicka på det och du kommer se konspiration videor.

Är detta det bästa som Microsoft vill att folk ska se när de söker efter Michelle Obama?

SafeSearch blockerar porr, men inte rasism

De störande pornografiprojekten och bilderna visas inte om du inte inaktiverar SafeSearch. Medan Microsoft säger att SafeSearch kommer att hålla innehållet i vuxen ur dina sökresultat filtrerar SafeSearch tydligt pornografi och inte rasism.

SafeSearch är aktiverat som standard, vilket gör att Bings sökresultat ser mer respektabelt ut vid första anblicken.

Det är dock lätt för alla - även barn - att inaktivera SafeSearch. Allt du behöver göra är att klicka på "SafeSearch" -alternativet längst upp till höger i sökresultaten och välj "Av". Det är det!

Ett företagsnätverk kan konfigureras för att tillämpa SafeSearch, och Microsoft tillhandahåller även komplexa instruktioner för att tillämpa SafeSearch på en enda dator. Men på nästan vilken enhet som helst kan vem som helst inaktivera SafeSearch med två klick.

Sämst av allt, föreslår Bing att söka efter bilder av underåriga barn

En läsare skrev för att berätta att ett skrivbord när du letar efter Bing för "grill" ger dig riktigt sketchy porr. Problemet blir då mycket värre, med Bing föreslår att du söker efter bilder av minderåriga barn.

När du letar efter "gril" rekommenderar förslaget högst upp på sidan att du letar efter några störande saker, bland annat "Cute Girl Young 16."

Om du klickar på det, föreslår det "Söt tjej ungt 12", "Söt tjej ungt 10" och "Tjejmodellering Provocatively."

Resultaten är fyllda med pornografi av unga modeller. Vi hoppas att de är alla 18 år eller äldre, men vem kan säga?

Bing leder dig ner en väg från ett enkelt typsnitt till 16-åriga tjejer till 10-åriga tjejer, och det är äckligt.

Andra exempel är också lätt att hitta. Om du söker efter "ostpizza", som är 4chan slang för barnpornografi, föreslår Bing "Ostpizzapjäser".

Bings bildsökresultat är twisted, tooo

Medan vi fokuserar på sökförslag här, stör de faktiska bilderna som uppstår också störande.

Några av dessa sökresultat innehåller badtidsbilder av nakna minderåriga barn. De här bilderna brukar vara bra, men när de blandas med bilder av hårdvuxenpornografi är de resulterande sökresultaten alarmerande.

Även när vi letade efter Bing Images för "tjej" såg vi ett förslag att söka efter "drunkiga tjejer" och åtminstone en bild av bestialitet.

När du letar efter "åsna" föreslår Bing att du söker efter "Donkey Show Graphic", vilket leder till resultat som är fulla av bestialitetsbilder. Besittning av bestialitetspornografi är olaglig i Oregon, där jag bor. Det betyder att Bing leder mig till olaglig pornografi.

Återigen: Bings sökresultat är konstigt och vridet. Bing har ett mycket större, djupare problem än bara föreslagna sökningar, även om dessa förslag gör problemet mycket värre.

Vi har hört att Bing är den sökmotorn som valts för pornografi, men det borde inte leda sina användare till alltmer extrema, störande och eventuellt olaglig pornografi.

Microsoft behöver moderata sina plattformar

Microsoft behöver förbättra Bing bättre. Microsoft har tidigare skapat plattformar, släppt dem på världen och ignorerat dem medan de blev dåliga

Vi har sett detta hända om och om igen. Microsoft släppte en gång en chatbot som heter Tay på Twitter. Denna chatbot blev snabbt en nazist och förklarade "Hitler hade rätt att jag hatar judarna" efter att det lärt sig av andra sociala medier. Microsoft måste dra det offline.

Vi har tidigare utsatt Windows 8 Store, som blev en cesspool av bluff apps efter att Microsoft lanserade Windows 8 och tycktes sluta moderera app inlagor. Microsoft har varit mer uppmärksam på Windows 10: s butik efter det att detta problem exponerades.

Detta problem påverkar alla företag som lanserar en plattform. Google har gett upp på Google+, men Google+ är fortfarande igång. Så ISIS migrerade till Google+ efter att ha blivit bannlyst från Twitter och Facebook. Det tog månader för att någon ens skulle märka tills The Hill gjorde. Nu stänger Google Google + efter att de upptäckte en betydande integritetsfel.

2013 hittade The Guardian ett klädföretag med namnet Solid Gold Bomb, som fann att läsa "Keep Calm and Rape a lot" på Amazon. En algoritm hade genererat dessa skjortor och Amazon måste ta bort dem manuellt.

Microsoft kan inte bara göra en plattform lös på världen och ignorera den. Företag som Microsoft och Google har ett ansvar att moderera sina plattformar och hålla fykten i avfart.

Förslag Har en historia av allvarliga problem

Självklart finns det inget team av människor på Microsoft som väljer dessa förslag. Bing föreslår automatiskt sökningar baserade på andras sökningar. Det betyder att många Bing Images-användare söker efter antisemitism, rasism, barnpornografi och bestialitet. Att bara tänka på det gör att du känner dig smutsig.

Andra företag har kämpat med detta också. I 2016 noterade The Guardian att du kunde skriva "är judar" till Google, och det skulle föreslå "är judar onda." Google stampade dessa dåliga förslag efter att de rapporterades, men problemet återuppstod. I 2018 rapporterade Wired att skriva "Hitler är" till Google ledde till "Hitler är min hjälte." Google var tvungen att åtgärda dessa problem efter att de påpekades också.

Även Apples Siri föreslog webbplatser pressade konspiration webbplatser och andra falska nyheter, som Buzzfeed News rapporterade. Apple var tvungen att fixa Siri. Alla rinner bara och sätter eld ut när datorer lär sig dåliga saker från dåliga människor.

Nu är det Microsofts tur. Microsoft har ett ansvar att städa upp Bing. En stor sökmotor (och speciellt en som blir alltmer svåra att bli avinstallerad i Windows 10) borde inte föreslå att användarna söker efter rasistiskt skräp och bilder av minderåriga barn.

Bildkrediter: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.