リスクのある判断をAIにさせるなら、少なくとも何を基準に判断させるかを設計するのは人間の責務で、AIの好き勝手な判断を許容するということはAIが「人間がいると地球の環境が悪くなる一方だから皆殺しにするね」と判断するSFによくあるディストピアと地続きだと思う