43
KEEPING THEM ON A LEASH
用皮帶把它們捆住？

不要害怕兇狠的烤面包機、被武裝的掃地機器人，以及盜竊錢財的ATM機。機器在智能以及其他方面能力的突破，不應該讓我們去猜疑未來人類和人類制造的機械之間是否會發生沖突。毫無疑問，人類會獲勝，在某種程度上是因為人類聲名狼藉的本性更多地與墮落相聯系，而不是與拯救相關。狡猾、欺騙、報復、猜疑、不可預測性，這些都是迷惑缺乏靈活性和想象力的生物的手段。智力不是一切，非理性的生物也未必無法適應這個世界。非理性行為刺激神經系統，讓我們跳出徒勞的套路，走入更具創造性的解決方案。我們的社會是分布式智能的社會，個體服從于團隊和集體。成為群體中有情緒的野獸會很顯眼。

關于這些問題的思想實驗是對人類和機器行為的洞見的來源，并指導我們如何制造出不同的、更好的機器。可以將欺騙、憤怒、恐懼、報復、同情，以及類似的情感都編程到機器中嗎？這又會產生什么效果？（這需要對人類情感有更深層次的模仿。）自我意識可以編程到機器中嗎？我們如何制造有社會性的機器，需要什么樣的命令結構來組織它們的團隊合作？一群自治的社會機器會瞬間產生一種新的政治結構、文化和傳統嗎？這樣的機器將如何對待它們的人類“造物主”？自然選擇和人工選擇能否被編程到自我復制的機器人中？

沒有跡象表明我們需要用皮帶把機器捆住，即便它們可能會胡作非為。我們距離制造出大批能夠昂首闊步、無法預測、居心叵測、有繁殖欲望的機器人還很遙遠。