Thought / 思想
AIが何をできるかだけではなく、誰が最後に選び、何を証拠として残し、力を誰の手に返すか。実装より先に決めておくべき三つの問いです。
AIが多くの可能性を見せられる時代ほど、最後に世界を一つ選ぶ責任は人に残す。提案する知性と、現実へ作用する権限を分けるための原則です。
記憶を権威ある答えにしない。出典、時点、訂正、撤回を残し、根拠が尽きた場所で止まれる記憶をつくるための原則です。
AIが仕事そのものをソフトウェアへ変えるなら、能力だけでなく、誰がシステム、状態、履歴、停止手段を所有するかを設計しなければなりません。