Artificiell intelligens och incitament

Om det är möjligt att utveckla robotar som är smartare än människan, kommer de rådande incitamenten leda till en sådan utveckling. Detta oavsett riskerna som robotarna kanske kommer att utgöra.

Det var tyskarna som tog idén om en monsterlik bomb från en teoretisk tanke till praktisk möjlighet. Hitler startade ett forskningsprojekt för utveckling av kärnvapen 1939, men det mynnade ut i en omprioritering 1942 då resurserna allt mer intensivt började användas på annat håll. Detta visste dock inte de allierade. Tanken på att Hitler skulle utveckla en atombomb före demokratierna var lika verklig som skrämmande. Därför gav alliansens ledande fysiker, däribland Einstein, sitt stöd åt kärnforskning skulle bedrivas också i USA för försöka komma före i utvecklingen (se här och här). Manhattanprojektet bildades. Hade de fortsatt utveckla kärnvapen om de visste att nazisterna så småningom i princip lade ner sina försök? Fortsätt läsa Artificiell intelligens och incitament

Annonser

Gisslan och moral hazard

Regeringar i alla länder borde gå ut med att man aldrig kommer förhandla med gisslantagare, oavsett vad de kortsiktiga konsekvenserna blir. Och de borde följa sina löften.

Om jag själv hade befunnit mig i en gisslansituation där förövaren trycker sin pistolpipa mot min tinning under samtalet med en medlare hade jag givetvis inte hoppats på något annat än en snabb förlikning: ”ge dem vad de vill ha så att jag blir släppt!” Men att göra eftergifter åt gisslantagare och utpressare genom att exempelvis betala dem pengar, eller som i fallet med IS-krigare, att släppa ut terrorister ur fängelset, skapar incitament för dessa brottslingar att fortsätta med sin lukrativa aktivitet. Fortsätt läsa Gisslan och moral hazard