知性は、複数の世界を見せられる。
AIは一つの答えだけでなく、条件の違う幾つもの可能世界を展開できます。比較し、反例を探し、実行の準備を整えるところまで、知性の速度は上がっていくでしょう。
けれども、可能性を描くことと、現実を一つ選ぶことは同じではありません。世界に作用した結果を引き受ける者が、最後の選択を持つべきです。
提案する力と、作用する権限を分ける。
AIが計画を作ったという理由だけで、カレンダー、ファイル、支払い、記憶を変更できるようにはしません。人が見るのは曖昧な願いではなく、何を、どこへ、どの範囲で変えるかを固定した計画です。
承認の後に渡す力も、何でもできる鍵ではなく、一回限りで期限と対象が限られたものにします。広い自律性より、責任の所在が見える一歩を選びます。
選択のあとに、証拠と戻る道を残す。
人が選んだことは、結果が正しいことを保証しません。だから作用の後には、別の読み取りで何が起きたかを確かめ、計画と選択と結果を結ぶ証拠を残します。
Undoも自動では行いません。元に戻すことも世界への作用だからです。逆向きの計画として、もう一度人が選べる状態にします。
人間を、責任の終端点に置く。
これは人間が常に正しいという主張ではありません。迷い、間違い、訂正する主体を消さないための構造です。知性が増えるほど、誰が最後に選んだかを曖昧にしてはいけません。
魔法の時代は、AIが勝手に動けるところからではなく、人が新しい力を責任を持って扱えるところから始まります。