オピニオン

認知バイアスがシステム開発に与える影響は大きい ―その状況を避けるべく、ユーザーには主体性が求められる―

「多数のバグにより総合テストを中止せざるを得ない状況でしたが、あなたはこのシステムを計画どおりに稼働できると考えていましたか。」
と原告（ユーザー企業）側の弁護士が、被告（ベンダー）側のプロマネに質問した。

それに対してプロマネは、
「そのときのプロジェクト関係者はみな、予定どおり稼働できるものと考えて作業していました。」と応じた。

　これは実際にあったあるシステム裁判における証人尋問の一場面です。筆者は自ら、所属していたユーザー企業がベンダーを訴えたシステム訴訟を経験したことがあり、加えて東京地方裁判所のIT専門委員として裁判に関わったり、第三者として裁判で意見書を求められたりするなど、いくつかのシステム訴訟に直接、間接に関わってきました。

その経験から言えば、システム開発プロジェクトが頓挫し、ユーザー企業がベンダーを訴えるようなケースにおいて、ベンダー側は「中止などせずに、頑張れば完成できた」と主張するケースがほとんどです。裁判の中で、当初計画したスケジュールに対し遅れている、バグが多くて収束しない、機能の齟齬や不足が目立つ、といった客観的事実や資料が示されても変わりません。プロジェクトに直接関わりを持たないベンダーの経営者でさえも、「なんとかなるだろう」と考えがちであり、これはプロマネの個人的な「想い」というよりも、ベンダーの総意だと考えられるほどです。

一体なぜなのか？このようなる大きな要因が、人は得られた情報を冷静に分析して合理的な意思決定を行うのではなく、固定観念や生活習慣に起因する「考え方の癖」が身についていることです。社会心理学ではこれを「認知バイアス」と名づけており、非合理的な判断や意思決定のことをいいます。具体的には、何か異常な事態が起こるかもしれないと判断するよりも、無意識に何も起こらないと楽観的に問題が起こっていない部分のみに注目してしまう「楽観主義バイアス」、論理の妥当性ではなく、結論が自分の信念と一致しているかどうかによって結論の妥当性を判断する「信念バイアス」、異常な事態から認知した危険予測を信じようとせず、危険を過小評価し状況を楽観的にみなす傾向に陥る「正常性バイアス」などが、代表的な認知バイアスです。

人間は、一般に都合の悪い情報を過小評価し、自分にとって都合のいい状況を重視する傾向があります。機械やコンピュータよりも柔軟で広汎な考え方ができる一方で、人間がヒューマンエラーを起こすのは、そんなところから来ています。それは意図したものではないし、まして悪意があるわけでもありません。そこには人間の認知特性が強く影響していると考えられており、認知バイアス （認知癖、認知的不協和）が重要な役割を担っているのです。

それでは、このような認知バイアスに陥らず、プロジェクトの状況を正しく理解し、冷静かつ合理的な対処を行うにはどうすればよいのでしょうか。そのヒントとして、「スルガ銀行対日本ＩＢＭ裁判」の控訴審判決（東京高等裁判所）の一節を引用しましょう。ベンダーが負うべきプロジェクトマネジメント義務のひとつの要素として、こう指摘しています。

局面に応じて、ユーザーのシステム開発に伴うメリット、リスク等を考慮し、適時適切に、開発状況の分析、開発計画の変更の要否とその内容、更には開発計画の中止の要否とその影響等についても説明することが求められ、そのような説明義務を負う（東京高等裁判所2013年9月26日判決）

これに対しては判決の直後から、「ベンダーの立場でプロジェクト中止の提案は極めて困難だ」という声が少なからず聞かれました。一般的に、発注者と受注者の間には「情報の非対称性」が存在します。特にシステムに関しては発注者が専門的知見を有していないために、受注者任せになりがちです。特に日本では1990年前後を境に、いくつかの歴史的事情からベンダー依存が深まり、「丸投げ」になることも普通になりました。

必然的に受注者であり、システム開発のプロフェッショナルもあるベンダーの立場では、システム開発での自らの過失を認めることになるので積極的な中止提案はできないという状況が存在するわけです。またプロジェクトを率いるプロマネからすれば、前述の認知バイアスもあって、「頑張れば完成できるはず」と考えてしまいます。しかし開発中止という究極の状況でなくても、システム開発着手前や開発中において、状況を冷静かつ客観的に分析する必要があることは論を要しません。これは立場上、発注者でなければできないことです。

筆者は、ここでのポイントは２つあると考えています。一つ目はプロジェクトマネジメントをベンダー任せにせず、発注者であるユーザー企業自らが行うことです。そのためには、短期的には外部からプロジェクトマネジメントができる人材を調達する、長期的には自社の社員の人材育成する必要があります。これはどんな場合であっても避けて通れない、発注者の責務です。もうひとつは、発注者自身が認知バイアスに陥らないような注意を払うことです。その手法としては、一例を挙げると、外部からアドバイザーを招聘し第三者チェックを受けるなど、より客観的な判断や意思決定を行う仕組みを導入することで回避できると考えます。

いずれのポイントも費用や手間がかかりますが、プロジェクト全体からすれば小さいでしょうし、上手くいく場合といかない場合の差を考えれば、ほとんど無視できるものでしょう。先に「２つあると考えている」と書きましたが、これらは単なる考えではありません。いくつもの裁判に関与し、また専門に研究してきた筆者の結論の一つです。なお、認知バイアスに陥らない工夫は、システム開発に限りません。日常生活のさまざまな場面で必要なことも理解していただけると思います。

プロメトリスト 代表
野々垣 典男