Mennesker, herunder tekniske ledere, er nu hyppigere til at imødegå de bekymringer og dårlige konsekvenser af kunstig intelligens i fremtiden. Det er fordi, hvordan AI-systemerne trænes, har introduceret et omfang for ting som bias.
Forskere ved MIT Media Lab har skabt det, de kalder en psykopat AI 'Norman'. Det er opkaldt efter den fiktive karakter Norman Bates fra 1960'ernes horrorfilm Psycho. AI er designet til at vise, hvordan datasættet, der bruges til at træne en algoritme, kunne påvirke dets adfærd.
Under sin uddannelse blev billedteksten AI Norman udsat for Reddits mørkeste hjørner. Datasættet indeholdt billeder fra en unavngivet subreddit, der "var dedikeret til at dokumentere og observere dødens forstyrrende virkelighed".
Derefter blev AI underkastet Rorschach-test (en psykologisk test, der bruger blækblokke til at analysere tankeforstyrrelser), hvor det var nødvendigt at foreslå en billedtekst for de givne blækblokke. Et standard billeddannende neuralt netværk (trænet på MSCOCO datasæt) blev vist de samme abstrakte blækblokke, og resultaterne blev sammenlignet med at afsløre chillingsforskellen.
Så hvis vi frygter, at en AI-apokalypse ville ankomme en dag, kan de forudindstillede data skabt af mennesker være en af grundene.
For nylig har Microsoft CEO Satya Nadella også opfordret til etik og principper for udviklingen af kunstig intelligens, da han forsøgte at sikre, at robotter ikke vil forlade os jobløs i fremtiden.