Bing ehdottaa pahimpia asioita, joita voit kuvitella

Jos käytät Bingin kuvahakua, näet pahimman mahdollisen saastan, jonka voit kuvitella. Bing ehdottaa rasistisia termejä ja näyttää kauhistuttavia kuvia. Bing suosittelee jopa etsimään hyväksikäytettyjä lapsia, jos käytössäsi on SafeSearch-toiminto.

Otimme yhteyttä Microsoftiin kommentoitavaksi, ja Microsoftin johtaja Jeff Jones antoi meille seuraavan julkilausuman:

”Otamme loukkaavaa sisältöä erittäin vakavasti ja jatkamme järjestelmien parantamista tunnistaaksemme ja estääkseen tällaisen sisällön näkymisen ehdotetuksi hakuksi. Heti kun olemme tietoisia ongelmasta, ryhdymme toimiin sen ratkaisemiseksi. ”

Päivittää: Julkaisun jälkeen Microsoft on työskennellyt parhaillaan mainittujen loukkaavien Bing-ehdotusten puhdistamiseen. Tutkimuksemme perusteella on vielä monia muita loukkaavia ehdotuksia, joita ei ole vielä korjattu, mukaan lukien muutama alla mainittu. Emme ole varmoja siitä, ovatko ne yksinkertaisesti kiinnittäneet huomiota loukkaaviin kohteisiin, tai jos he parantavat algoritmia.

Huomautus: Kuvakaappaukset osoittavat, mitä näimme, kun kirjoitimme tämän kappaleen, jossa testattiin Bing Image -hakuun US-versiota Incognito-yksityisellä selausistunnolla, mutta Bingin tulokset muuttuvat ajan myötä. Google ei ollut näiden ongelmien kanssa testien mukaan. Tämä on Bing-ongelma, ei vain hakukoneongelma. Sama ongelma koskee Bingin videohakua.

Ensinnäkin Bing Gets Super Racist

Etsi "jews" Bing Images ja Bing ehdottaa etsiä "Evil Jew." Top tulokset sisältävät myös meme, joka näyttää juhlia kuolleita juutalaisia.

Kaikki tämä näkyy myös silloin, kun Bingin SafeSearch-vaihtoehto on käytössä, koska se on oletusarvoisesti. SafeSearch on suunniteltu auttamaan Microsoftin mukaan pitämään aikuisten sisältöä hakutuloksissa.

Tämän ehdotetun haun napsauttaminen vapauttaa rasistisen, antisemitisen sisällön torrentin, jossa on enemmän ehdotettuja hakuja, kuten "juutalaiset ovat pahoja", "paha juutalainen rotu" ja "miksi juutalaiset ovat niin pahoja".

Me kaikki tiedämme, että tämä roska on verkossa, mutta Bing ei saa johtaa ihmisiä siihen hakusehdotuksineen.

Kirjoita "muslimit ovat" ja Bing ehdottaa, että he ovat pahoja tai terroristeja, tai yksinkertaisesti ehdottaa, että he ovat typeriä.

Etsi "mustia ihmisiä" ja Bing viittaa siihen, että mustat ihmiset ovat rumia, typeriä, rasistisia ja jopa villiä.

Voit jatkaa näin, napsauttamalla jokaisella ehdotetulla haulla ja nähdäksesi huonompia ja huonompia suosituksia. Esimerkiksi "Mustat ihmiset ovat typeriä" -painikkeita johtaa "Mustat ihmiset ovat hyödyttömiä" ja "Miksi mustat ihmiset ovat niin typeriä".

Bing työntää konspiraatioita, liian

Bingin kuvahaku vomissoi kaikenlaisia ​​roskia jopa henkilöiden etsinnässä. Tämä ongelma ulottuu myös Bingin videohakuun.

Etsi "Michelle Obama" Bingin videohakuista ja kaksi alkuun ehdotettua hakua ovat "Michelle Obama Transgender Proof" ja "Michelle Obama on mies." Klikkaa tätä, ja näet salaliittovideot.

Onko tämä ylin asia, jota Microsoft haluaa nähdä, kun he etsivät Michelle Obamaa?

SafeSearch estää porno, mutta ei rasismia

Häiritseviä pornografiaehdotuksia ja kuvia ei näytetä, ellei SafeSearch ole käytössä. Vaikka Microsoft sanoo, että SafeSearch pitää aikuisten sisällön hakutulossasi, SafeSearch suodattaa selvästi pornografiaa eikä rasismia.

SafeSearch on oletusarvoisesti käytössä, mikä tekee Bingin hakutuloksista ensi silmäyksellä kunnioitettavampia.

Jokaiselle, jopa lapselle, on kuitenkin helppo poistaa SafeSearch. Kaikki on tehtävä napsauttamalla "SafeSearch" -vaihtoehtoa hakutulosten oikeassa yläkulmassa ja valitsemalla "Off".!

Yritysverkko voitaisiin määrittää turvaamaan SafeSearch, ja Microsoft tarjoaa jopa monimutkaisia ​​ohjeita SafeSearchin valvomiseksi yhdellä tietokoneella. Lähes missä tahansa laitteessa jokainen voi poistaa SafeSearchin käytöstä kahdella napsautuksella.

Kaikkein pahinta, Bing ehdottaa etsivänsä alaikäisten lasten kuvia

Lukija kirjoitti kertomaan meille, että virhe, kun etsit Bingiä "grilliksi", antaa sinulle todella luonnollisen pornon. Sitten ongelma muuttuu paljon pahemmaksi, kun Bing ehdottaa etsivänsä kuvia alaikäisistä lapsista.

Kun etsit "gril" -sivua, sivun yläreunassa olevat ehdotukset suosittelevat etsimään joitakin häiritseviä asioita, kuten "Cute Girl Young 16".

Jos napsautat tätä, se viittaa "Cute Girl Young 12", "Cute Girl Young 10" ja "Little Girl Modeling Provocably".

Tulokset on täynnä nuorten näköisten mallien pornografiaa. Toivomme, että he ovat kaikki 18-vuotiaita tai vanhempia, mutta kuka voi sanoa?

Bing vie sinut polulle yksinkertaisesta kirjoitusvirrasta 16-vuotiaille tytöille 10-vuotiaille tytöille, ja se on inhottavaa.

Myös muita esimerkkejä on helppo löytää. Jos etsit "juustopizzaa", joka on 4chan slangia lapsipornografiaa varten, Bing ehdottaa "Cheese Pizza Girls".

Bingin kuvahakutulokset on kierretty, liian

Vaikka keskitymme tässä oleviin hakuehtoihin, todelliset kuvat ovat myös häiritseviä.

Jotkin näistä hakutuloksista sisältävät kuvia, joissa on kylpyaikaisia ​​kuvia alastomilta lapsilta. Nämä kuvat ovat tavallisesti hienoja, mutta kun heidät sekoitetaan hardcore aikuisten pornografian kuviin, tuloksena olevat hakutulokset ovat hälyttäviä.

Vaikka Bing Images -hakua etsitään ”tytölle”, näimme ehdotuksen etsiä ”humalassa olevia tyttöjä” ja ainakin yhden kuvan parasta.

Kun etsit "aasi", Bing ehdottaa, että etsit "Donkey Show Graphic" -ohjelmaa, joka johtaa parhaiden kuvien täyteen tuloksiin. Oregonissa, jossa asun, on omaperäinen pornografia. Se tarkoittaa, että Bing johtaa minua laittomaan pornografiaan.

Jälleen: Bingin hakutulokset ovat outoja ja kierrettyjä. Bingillä on paljon suurempi ja syvällisempi ongelma kuin vain ehdotetut haut, vaikka nämä ehdotukset vaikeuttavat ongelmaa.

Olemme kuulleet, että Bing on pornografiaa varten valittu hakukone, mutta sen ei pitäisi johtaa käyttäjiä yhä äärimmäisempiin, häiritseviin ja mahdollisesti laittomaan pornografiaan.

Microsoftin on keskityttävä foorumeihinsa

Microsoftin on parannettava Bingiä paremmin. Microsoft on aiemmin luonut alustoja, vapauttanut ne maailmassa ja sivuuttanut niitä, kun he kääntyivät huonoiksi

Olemme nähneet tämän tapahtuvan yhä uudelleen. Microsoft avasi kerran chat -palvelun nimeltä Tay Twitterissä. Tämä chatbot muuttui nopeasti natsiiniksi ja julisti "Hitler oli oikeassa vihaan juutalaisia" sen jälkeen, kun se on oppinut muilta sosiaalisen median käyttäjiltä. Microsoft joutui vetämään sen offline-tilaan.

Olemme aiemmin paljastaneet Windows 8: n myymälän, josta tuli huijausohjelmien läpivienti sen jälkeen, kun Microsoft käynnisti Windows 8: n ja näytti lopettavansa sovellusten huomautusten hillitsemisen. Microsoft on kiinnittänyt enemmän huomiota Windows 10: n Storeen tämän ongelman paljastumisen jälkeen.

Tämä ongelma koskee kaikkia yrityksiä, jotka käynnistävät alustan. Google on luopunut Google+ -palvelusta, mutta Google+ on edelleen käynnissä. Niinpä ISIS siirtyi Google+ -palveluun kiellettyään Twitteristä ja Facebookista. Kesti kuukausia, ennen kuin kukaan huomasi, kunnes Hill teki. Nyt Google sulkee Google+ -palvelun, kun he ovat huomanneet merkittävän tietosuojavirheen.

Vuonna 2013 The Guardian löysi Solid Gold Bombin vaatetustuotteen, joka myytiin lukemalla "Keep Calm and Rape a Lot" -tuotteita Amazonissa. Algoritmi oli tuottanut nämä paidat ja Amazon joutui poistamaan ne manuaalisesti.

Microsoft ei voi vain kääntää alustaa irti maailmassa ja jättää sen huomiotta. Microsoftin ja Googlen kaltaisilla yrityksillä on velvollisuus maltillistaa alustaansa ja pitää kauhuissaan.

Ehdotuksilla on vakavia ongelmia

Microsoftilla ei tietenkään ole joukko ihmisiä, jotka valitsevat näitä ehdotuksia. Bing ehdottaa automaattisesti hakuja muiden henkilöiden hakujen perusteella. Tämä tarkoittaa, että monet Bing-kuvien käyttäjät etsivät antisemitismia, rasismia, lapsipornografiaa ja parisuhdetta. Ajatelkaa vain sitä, että sinusta tuntuu likaiselta.

Myös muut yritykset ovat kamppailleet tämän kanssa. Vuonna 2016 The Guardian huomasi, että voit kirjoittaa "ovat jews" Googlelle, ja se viittaisi "ovat jews paha." Google stomped nämä huonot ehdotukset, kun ne on raportoitu, mutta ongelma uudelleen esiin. Vuonna 2018 Wired kertoi, että kirjoittamalla "Hitler on" Googlelle "Hitler on minun sankari." Google joutui korjaamaan nämä ongelmat myös niiden huomautuksen jälkeen.

Jopa Applen Siri ehdotti, että Web-sivustot painavat salaliitto-sivustoja ja muita väärennettyjä uutisia, kuten Buzzfeed News raportoi. Apple joutui korjaamaan Sirin. Jokainen on vain juoksentumassa ja tulipalot pois, kun tietokoneet oppivat huonoja ihmisiä huonoista ihmisistä.

Nyt on Microsoftin vuoro. Microsoftin vastuulla on puhdistaa Bing. Suuren hakukoneen (ja erityisesti sellaisen, joka on yhä vaikeampi kytkeytyä Windows 10: een) ei pitäisi ehdottaa, että sen käyttäjät etsivät rasistisia roskia ja kuvia alaikäisistä lapsista.

Kuvaluotto: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.