真実はフィクションよりも奇なり

新しいテクノロジーは、新たなエクスペリエンスを創出し、より速く、より良く、より安く、あるいは単に「異なる方法で」事を成し遂げる機会を提供してくれる。こうした機会は、典型的なイノベーション採用のシナリオに従ってもたらされる。現在、想像しうるあらゆる産業、製品およびサービスにおいて、データとAIによる「採用」「対応」「適応」「転換」そして時には「規制」という一連の流れができている。

今や、顧客とそのデータをどのように扱っているかを可視化する動きが広がっている。

AIモデルがどのデータを「見て」、「そのデータをどのように使用しているか」は永久に記録され、どの機能がどの程度意思決定に影響したかを追跡するトレーサビリティが高まっている。

あらゆる種類のデータ、意思決定およびデータ駆動型の意思決定について、その妥当性、承認、プライバシー、透明性、同意、顧客成果に疑問の声が上がっている。これらの問題に倫理的側面が含まれている場合、それを管理することは新たなリスクであり、新しい倫理的問題は常に発生している。

本レポートでは、データリテラシーを補完するものとして「倫理リテラシー」の概念を紹介する。機械による意志決定についての調査は、人による意志決定の調査につながり、人と機械が協調するプロセスへと徐々に拡大していく。

プライバシー、セキュリティ、透明性、公正性および承認に加え、公正性、公平性、偏見に関する厄介な「倫理」の議論は、風評リスクだけでなくオペレーショナルリスクにもなっている。その先には新しい法規制がある。規制は進化しており、規制の対象、適用される場所、許可されないアプリケーションのタイプなど、その内容は常に変化している。提案される罰則は重要な意味を持ちそうである。