Skulle programmerare att utföra oetiskt eller illegalt arbete?

Förra veckan, har nätverket en post skriven av en programmerare och lärare Bill Sourorom. Den heter "kod, som jag skäms."

När diskussionen började bland programmerare

I efter Souror berättar den fruktansvärda historien om en ung programmerare som har fått ett jobb och fick i uppdrag att skapa en webbplats för läkemedelsföretagen. Hela inlägget är värt att läsa, men poängen är att programmeraren var tvungen att hjälpa företaget att skapa annonser baserat på bedrägeri, som var tänkt att övertyga unga kvinnor som tar ett visst läkemedel.

Senare fick han veta att läkemedlet har varit känt för sin egendom för att förvärra depression och minst en ung kvinna begick självmord genom att ta det. Han lärde sig också att hans syster tar denna medicin, och varnade henne för konsekvenserna.

Men även decennier senare, fortfarande känner han sig skyldig på grund av detta arbete. Skriv det här inlägget inspirerades av en konversation Roberta Martina, med titeln "Framtiden för programmering." Martin är en populär figur i världen av programmerare, men här är det mer känd som "Uncle Bob."

Mjukvaruutvecklare "döda människor"

I den här intervjun, hävdar Martin som mjukvaruutvecklare måste ta reda på vad de tar på sig ansvaret, och det måste ske snabbt. "Låt oss bestämma vad det innebär att vara en programmerare - Martin säger i videon. - Civilization beror på oss, men inte inser det förrän nu. "

Det faktum att alla i världen i dag, vad vi gör, inklusive att köpa saker, telefonsamtal, köra bil, flyger i flygplan, inte kan vara utan programvaran. Dussintals människor har redan dödats av felaktig programvara i bilar, medan hundratals har dött av samma anledning under flygresor.

"Vi dödar människor, - säger Martin. - Vi kom in i den här branschen att inte göra det. Men situationen blir bara värre. "

nya problem

Martin noterade att, enligt hans mening, det finns tecken på att utvecklarna under de kommande åren i allt högre grad kommer att konfronteras med några verkliga problem. Han nämnde exemplet med generaldirektören för Volkswagen i USA, Michael Horn, som först anklagade mjukvaruingenjörer i de utsläpp som produceras av företaget. Under skandalen, som bröt ut vid ett kongressförhör, Horn sade att programmerare har agerat på egen hand "för en eller annan anledning." Senare Horn avgick efter att amerikanska åklagare anklagade företaget för att göra detta beslut på högsta nivå och försöker dölja det.

Men Martin säger: "Det märkligaste var beteendet hos mjukvaruutvecklare som skrev koden. Vissa programmerare skriva kod som hjälpt företaget att bryta mot lagen. Tror du att de kanske vet om det? Jag tror att de sannolikt kommer att veta. "

Call to Action

Martin avslutade sitt tal med en uppmaning till handling, där han varnade för att en dag någon mjukvaruutvecklare kommer att göra det kommer att leda till en katastrof, som dödar tiotusentals människor.

Men Souror tyder på att det är inte bara ett slumpmässigt dödande eller avsiktlig luftföroreningar. Företagen på Wall Street redan använder programvara för att manipulera aktiekurser. "Det kan inte ske utan programmerare som skapar en falsk order", - säger Souror.

erkännande av programmerare

Sourora inlägg dök upp på Hacker News och Reddit och orsakade publiceringen av en lång rad erkännanden från programmerare av oetiska och ibland olagliga saker som de ombads att utföra.

En skrev om sitt arbete i det företag som tecknat människor för deras nyhetsbrev, även efter att de ger upp dem (vilket kan vara ett brott mot federal lag). Programmerare skriver sedan skript för att hjälpa säljarna att avgöra företagets målgrupp. När den här killen uppgav teknisk direktör åsikt om oetiskt sådant arbete, han beordrade att skriva ett avskedsansökan. Och nu, enligt honom, samma programmerare som arbetar på nystartade företag för att bestämma ett brett spektrum av uppgifter om placeringen av människor.

En annan programmerare anställdes genom att skriva programvara för radio. Han blev ombedd att använda kanalerna reserverade för räddningstjänsten, eftersom det skulle påskynda driften av anordningen. "Det är snabbare, men olagligt, och dessutom är det farligt i nödsituationer," - sade han. Han vägrade att följa denna ordning, men säger att det finns alltid en programmerare som är villig att följa order utan att fråga.

En annan programmerare berättade att under träning han överfördes till en del kod som du kopierade från tävlingsområdet. Man uppmanas att skapa på grundval av ett demo för investerare. Han insåg att ledarskapet var nödvändigt att lura dem.

Också det publicerade en berättelse om hur en annan programmerare ombads att ändra säkerhetskopia av vissa ekonomiska uppgifter och lansera den årliga rapporten igen genom att återställa säkerhetskopian av ändrade. Denna programmerare vägrade jobbet. Några år senare fick han veta att hans tidigare kunder greps för skattebrott.

En programmerare sade också att han nyligen blev ombedd att skapa ett hasardspel för barn under täckmantel av ett vars riktning till ledningen. Enligt honom han inte längre arbetar för företaget.

brist på etik

Det gemensamma temat bland alla dessa historier är att om utvecklaren vägrar att följa detta arbete, kommer företaget att helt enkelt hitta någon annan som kunde göra det. Kanske är detta sant nu, men kan snart ändras.

"Vi styr världen, - sade Martin. - Andra människor tror att de styr världen. Men i själva verket är bara skrivit regler och skicka dem till oss. Och sedan skriver vi regler för att hjälpa dig att använda maskinerna och göra allt som är nödvändigt för mänskligheten. "

Martin varnade om programmerare inte börjar inte att ta ansvar för sina handlingar nu, efter hända någon apokalyptisk händelse som kunde döda tusentals människor kommer lagstiftarna att göra det åt dem, dikterar alla regler för drift, upp till det språk som de kommer att tillåtas att använda.

Adresse

Den uppenbara lösningen är att lära sig grunderna i etik. Och de är ganska mycket obligatoriskt för varje elev i datavetenskap som examen från ett fyraårigt utbildningsprogram. Bibeln denna kurs bör vara ett verk av författaren Sarah Baas "Gift of Fire. Sociala, juridiska och etiska problem för datorer"

Tyvärr har många av dagens mjukvaruutvecklare är självlärd eller lära sig genom de så kallade kodningsBootCamps.

I det här fallet, deras utbildning omfattar sällan någon form av undervisning etik. Särskild uppmärksamhet bör ägnas åt personer som snabbt kan skriva kod för att möta den växande och glupsk marknaden.

Souror uppmuntrar alla utvecklare som använder Bootcamps och online utbildningsinstitutioner, att börja prata om de etiska ansvar som kommer tillsammans med att skriva kod.

Operationsstyrenheten

Men vad programmerare verkligen behöver en organisation som ska hantera och reglera sitt yrke. Andra branscher, som vi vet, har länge haft sådan kontroll. För närvarande finns det inget sånt för utvecklare, även om Association for Computing Machinery redan har börjat skapa etiska dokument för programmerare.