ちょっと待って！そのプロダクト、SNSで炎上しない？『倫理観』って大切ですよね。

# 初めに

開発をしているとどうしても技術に偏ってしまうことが多いため、自分への戒めも込めて開発時に技術以外の面でプロダクトリーダーが考慮しなければいけないことをまとめようと思いました。また、自分は今オーストラリアの大学院でコンピュータサイエンスを専攻しています。「ITをどうマネジメントしていくか」という授業で扱った内容を自分なりに落とし込むために今回投稿させていただきます。

## 対象読者

- 新しいサービスを開発しようとしているチームのプロダクトリーダー
- 個人開発でアプリやサービスをローンチしようと思っている方
- 将来、起業を考えている技術志向の方

# 開発時に大切なこと

プロダクトを開発するときに、基本的に以下のことを最初に考えると思います。

- 世の中に必要とされているものか
- 世の中の構造を変える力を持っているか

最近で言うと、「機械学習」「ブロックチェーン」などの技術は、技術的にもちろん興味深いですが、これを使って社会に与えることのできるインパクトの大きさから注目されているのだと感じています。しかし、同時に以下のことも大切な考慮事項であることを忘れてはいけません。

- __倫理的に問題がないか__

これを無視してしまうと、いくら優れたプロジェクトでもSNSで批判を浴びたり、ユーザーに受け入れてもらえないという事態が発生します。

この記事を参考にして、プロダクトを以下の項目事項に照らし合わせれば、開発時に忘れがちなのにとっても大切な考慮事項に問題がないかをざっとチェックできるようになります！(のちにプロジェクトが炎上したとしても自己責任でお願いします笑)

# 倫理

倫理とは、__個人が行動する際に規範とするべき基準__ のことで、ITの技術は社会の変化をもたらすため倫理に対する問いを常にする必要があります。
[Laudon and Laudon 2018, p.155](https://industri.fatek.unpatti.ac.id/wp-content/uploads/2019/03/188-Management-Information-Systems-Managing-the-Digital-Firm-Kenneth-C.-Laudon-Jane-P.-Laudon-Edisi-15-2017.pdf)


私たち技術者や技術に関わる人たちは、常に自分達のプロダクトが世界の倫理にどう影響するかを常に考えておく必要があります。そこでまず最初に考えるべきは以下の図に当てはめてみることです。

![倫理象限](https://lh3.googleusercontent.com/17jtjAcfqtVLOz4w3rMnaqXlUFL9EGprIn_wfAZD-H8mAqOPH4x32VWhHIjTOyhCPCB_3rTknqhUS9RlFs0dSKCUZfKv9wAAFHIVZuEftIPWtWEII0yuvKPa4m2T4cwwhOQQwzommvXbYHdm_KRPJjgJt8jKDnIYL_e3-l2nWPQsV2179S-4V8Rn4hpYdD2bjCsGN_rnKDwC-yvyszXU840SMEhpo8xuJkmqr_tMPu8QHmjTqB1ZTacB5gRX2X2k7MSXGNvMYWGLr3XYFvITZIX2nrVDUDgXFiKIUyrWVHPQZ_bLhq9FAer7KoTdWY9dM_SC-ZoddFMUgAEQAzpjNO5A_K-eGrX08TMjWInfbpLZrZtwmVCoMWu1fXeEtaP-y_rgS5xdWONKdNXoYP8usDkWV6jaQXU_ggKN2lb7vyo_jOxKEcpv2upDOIStDATwnkUydImPLirfSBK_Kr_AIy6HE7JS8EI51w9R-HG4bBS9Pw72UUjryKS6sBXbSklRo3ah70tqHUw9ssd7WXtBF5HuaFbCy35dHt7Mz2ysY29TXXg-xCZsxgOmC3y52ywqBwzzoKBdygTZ3BCn2WZ5irv5n8Nqu-vBbR0xBNqyygqxLjuhORWZKHgrtHSTkSMS9hAjXSK89NCHXjnfHnCe2x42t80dn_O_e2l9vpF56VR6Kuf4ppN089kMljb42gz2YZ-Ejwih4PNl7Awm0tyt7ESD1G1x6FTMJPy8Dr3OsBY0iCyAE_S5S2c1cdIUgohxnrpdmFNWqqePSVJFQJIk2Eqx9Qd_dN-YtLtY0hSPgLhHwYYj76wbU-luthohWOopgviyOQolx7vn9JyNbVD_jfjuF9_ICSoM5S64g8hwcOHVEApddv7TkSByj8-VsloQxbpBT-8tlbwGfEldyZKjD_pduQWsc5t0KZOnAsXdn-UOK9M8Xqa7rl9Drd7Skn8elZwaj4hM73LH_saD06umeA=w866-h610-no?authuser=0 "syougen")

言わずもがな、「違法」はいけません。
ここでは、図の右半分が問題なのです。例えば、こんなケースです。

----------
ワイ「このゲームアプリ、面白そうだな！ダウンロードしよう！」
まだ理性的なワイ「ポチポチ。。。承諾書にチェックをする必要があるのか。ちゃんと読んどくか」
めんどくさがりが出てしまうワイ「なっが！！！もういいや。チェックしてインストールしちゃえ。えい！」
アホなワイ「面白いなこのゲーム！ふんふん！」

一方その頃。。。
アプリ開発者「ふふふ。またアホが引っかかったな。これで一ヶ月後に莫大な金額を請求してやろう。しかも合法。なぜなら __一ヶ月後に自動で料金が発生しますと書いてある承諾書に同意しているから__ な！！」

---------


このケースは「合法だけど、非倫理的」です。(法律の専門家ではないのでこれは違法なのかもしれませんがこれは例なので悪しからず。)
おそらくこの開発者は、最初は大儲けできるかもしれませんが、のちに大きな問題に発展することでしょう。

意図せず非倫理的なことをしてしまった。。ことを避けるにはどうすれば良いのでしょうか？

## 倫理の原則

プロダクトを作る時に考慮すべき倫理問題には、「ビジネス的観点」と「技術的観点」があります。ビジネス的観点には大まかに6個、技術的観点には4つの考慮すべき原則があると言われています。
[Laudon and Laudon 2018, p.160](https://industri.fatek.unpatti.ac.id/wp-content/uploads/2019/03/188-Management-Information-Systems-Managing-the-Digital-Firm-Kenneth-C.-Laudon-Jane-P.-Laudon-Edisi-15-2017.pdf)
[O'Brien and Marakas 2011](https://www.academia.edu/38236225/James_OBrien_George_Marakas_Management_Information_Systems_10th_Edition)

### ビジネス的観点

- 黄金律
    - __人からしてもらって嬉しいこと__ を他人にせよ
- 定言命法
    - __無条件__ でなすべきことをする
- 滑り坂論の法則
    - __継続的に実行できないこと__ は、着手すべきでない
- 功利主義
    - __より高い価値を生み出す__ 行動を起こす
- リスク回避
    - __リスキーな意思決定は避ける__ べき
- 倫理的ノーフリーランチ定理
    - 全てのものは創作者の所有物で、創作者はその補填を望んでいるため、ビジネスをするときはそれが __誰の所有物かを明確にすべき__


### 技術的観点

- 比例(日本語訳が正しいか自信がないので興味ある人は上記の参考文献を読んでみてください。)
    - 技術によって達成される良いことは __リスクを上回らなければならない__ 
- インフォームドコンセント
    - 技術に関係する人々は __リスクを理解し、許容__ しなければならない
- 正義
    - __技術の利益と負担は公平に分担されるべき__ 
- リスク最小化
    - 不要で __避けることのできるリスクは常に避ける__ ように技術は用いられるべきである



これらの原則に開発しようとしているプロダクトが反していないかを常に考えるべきだと思っています。また、開発時だけではなく、リリース後に何か問題が起きたときどのように対処すべきかもここにヒントが詰まっているはずです。私の経験では「倫理的ノーフリーランチ定理」はプロダクト開発時にとても重要なコンプライアンスだと思っています。サードパーティのライブラリを利用するときライセンス明記や契約がどうなっているのかなどつい後回しにしてしまいがちですが、

- ドキュメントにその場で明記
- 無理なようならToDoリストに必ず入れる
- 開発チームに共有

をする文化を作っておかないと後々面倒なことになると感じています。余裕があるならライセンス関連のタスクを細分化して持っておくのも手かもしれません。

また、技術的観点の項目の「比例」ですが、これは自分が進めたいと思ったプロジェクトや新機能を実装するときに上司や他部署に説明するときに役立つはずです。「この機能があればこういったリスクはあるが、こういった利益が生まれる」という根拠のあるプレゼンは話を進める一手になるでしょう。

# まとめ

私の経験から具体例を少しだけ書きましたが、他の項目もプロダクト開発時、保守時に参考にできる道標になるはずです。特に世の中に影響を与えたいという思いで作られるプロダクトほどこういった倫理観を大切にすることはより大事になってくるはずなので、少しでも参考にしていただけると幸いです。