第３分科会 （レビュー・ブート・キャンプ チーム）

レビューアのドメイン知識を飛躍的に向上させるトレーニングの提案～ 実成果物の利用により実践的なレビュースキルを向上 ～Proposal of the training method to improve reviewer's domain knowledge- Improvement of reviewer's practical skill using error injected documents 主査
副主査：：

アドバイザー ：
研究員
：

中谷 一樹
原 佑貴子
上田 裕之
森崎 修司
原山 拓実
藤田 延介
山田 将貴

（ＴＩＳ株式会社）（日本アイ・ビー・エム株式会社）（株式会社ＤＴＳ）（名古屋大学）（アンリツ株式会社）（株式会社エスイーシー）（キヤノンファインテック株式会社）

研究概要
ソフトウェア開発において，ピア・レビューを成功に導くためには有識者，とりわけエキスパートレビューアの存在が欠かせない．作成担当者にはない知識，経験からの知見が必要なためである．
しかしエキスパートレビューアは少数かつ多忙のため，必要なレビューに参加しきれない問題がある．また，知識や経験の伝え方に頭を悩ませている．
エキスパートレビューアや教育担当者の限られた時間の中で，経験の浅いプロジェクトメンバにレビューで必要な知識を早期に伝えるためにはどのようにしたらよいか．
考察の結果，開発現場で実際に使用している仕様書に欠陥を埋め込んだものをトレーニング資料として使う，EIDeR-Training 法（Error Injected Document Review – Training 法）を提案する．実験の結果，この方法によってプロジェクト内の立場に関係なく欠陥検出率の向上が確認できた．
Abstract
For success of peer review in software development, an expert reviewer is necessary.
Because they may has few knowledge and experience toward author. However, there is a problem thatthey would not participate in all reviews due to small number of person and busyness. And they worry
about how to train project members as reviewer. We study how the expert reviewer or trainer should doto train project member by a short time. This paper presents EIDeR (Error Injected Document Review)– Training method. This method injects past defects into design document. We have confirmed that
almost all participants improve defect detection ratio through the experiment.

1.

はじめにソフトウェア開発において，仕様書やソースコードなどの成果物に，作成者の見落としや検討漏れによって，ユーザの要求を満たしていないなどの欠陥を作り込む場合がある．
欠陥を作り込むリスクを回避するには，エキスパートレビューアの参加するレビューが有効である．しかし，一般にエキスパートレビューアの数は限られており，実務では，失敗が許されないため，エキスパートレビューアに負荷が集中している．新たなエキスパートレビューアを育成するには，時間とコストがかかること，特定のプロジェクトに特化した明確なトレーニング方法が体系化されていないなどの問題がある．先行研究では，レビューの知識を体系化する議論 [1] やエキスパートレビューアの欠陥検出メカニズムに関する思考について議論 [2] されている．また，エキスパートレビューアを育成する有効な報告に，ピア・レビューにおいて，エキスパートレビューアの成功を若手レビューアが共に経験す1

第３分科会 （レビュー・ブート・キャンプ チーム）ることで，成功体験からレビューを学ぶ仕組みの報告 [3] が挙げられる．我々は，特定のプロジェクトに特化した明確なトレーニング方法が体系化されていないことに気づき，若手レビューアがセルフトレーニングを行う方法を検討した．
本論文では，エキスパートレビューアの負担を減らすため，また，開発経験の浅い人やプロジェクトの途中から参加した人（以下，若手レビューア）が，早期に，かつ，有効な指摘を出来るようになるための知識を習得するトレーニング手法について述べる．
2.

問題点と提案手法
はじめに，トレーニング手法を考案するにあたって，エキスパートレビューアの知識を整理する．エキスパートレビューアに必要とされる知識は，表 1 に示す 3 種類に分類できると考えた．レビューの知識，一般的な技術知識は，独学や前プロジェクトの経験から身に付けることができる．しかし，ドメイン知識は体系化されていないため，業務を通じて身に付けることが一般的である．

必要な知識
レビューの知識

一般的な技術知識

ドメイン知識表 1 有効なレビューをするための 3 つの知識
概要
学習方法
レビューオリエンテーションキット [1]
有効なレビューをするた
間違いだらけの設計レビュー [4] などめの知識．
広く知られている技術的対象の参考書な知識．
すでに体系化，書籍化され OJT（On the Job Training）ている．
専門分野の知識．
OJT専門知識が体系化されない．

次に，ドメイン知識は定義のあいまいな言葉である．表 2 に本研究で扱うドメイン知識の定義を示す．若手レビューアは，OJT を通して，ドメイン知識を習得している（表 1）．
ドメイン知識は，体系化されていないため習得に時間をかけて行っている．
表 2 本研究におけるドメイン知識の定義
具体例
定義したドメイン知識
ソフトウェアが対象とする業務への理解．
レビュー対象の知識
病院内向けの電子カルテシステム開発の場合，院内の業務プロセス自体の知識．
ユーザやシステムに関係する人の関心への理解．
発注した病院によって重視するものが違い，他院に通用した仕様が受け入れられないなどの知識．
ステークホルダの関心
例えば端末をオフラインにしても使えることを前提とするか，常にオンラインであることを前提とするかなど設計思想が異なる．
時間とともに体系そのものが変わる特徴を持つ．
常に変化し続けている
当初紙ベースでのコミュニケーションが電子化，多端末での同知識体系
時参照，患者情報の入力や検索方法など要求や機能が増え，変化し続ける．

2

第３分科会 （レビュー・ブート・キャンプ チーム）OJT による教育には，以下 2 点の問題がある．
(1) 実務においては失敗が許されない問題
実務においては，納期が厳しいこと，失敗すると信頼を失うことから，組織は若手レビューアに試行錯誤をする余裕が与えられない．そのため，レビューではエキスパートレビューアが多く発言するようになり，若手レビューアの成長を阻害してしまう．
(2) エキスパートレビューアが教育に時間をかけられない問題
エキスパートレビューアに負荷が集中しているため，エキスパートレビューアは，若手の教育ができない．
2.1 解決したい問題・課題
エキスパートレビューアに負荷が集中する問題を解決するには，若手レビューアを育成する必要がある．有効なレビューを行うために必要な知識は，3 種類あることを示し，レビューの知識については先行研究 [1] で検討されており，一般的な技術の知識についても，独学で習得できることを示した（図 1）．本研究では，若手レビューアが，現状より重大欠陥が指摘出来るようになること，エキスパートレビューアが保有する一部のドメイン知識を身に付けるようにしたい（図 2）．そのためには，ドメイン知識の習得方法は，OJT であることを示したが，OJT による教育には，2 点の問題があることを挙げた．OJT の問題を解決し，かつ，若手レビューアにドメイン知識を獲得させる手法を考案するにあたり，課題（下記，RQ1 - 3）を設定した．
エ キス パー トレ ビュ ーア が過 去の 欠陥 を学 ぶこ とで ドメ イン 知識 に指 摘す る担 当エ リア

依 存す る欠 陥を 検出 でき るよ うに する
重 大欠 陥重 大欠 陥若手が指摘できるエリア
ド メイ ン知 識

図 １：レビ ューの知 識の習得

ド メイ ン知 識

図 ２：本研 究のめざ すところ

RQ1．若手レビューアを（短時間で，かつ，実害のある失敗はさせずに）レビューを任せられる人材に成長させるにはどのようにしたらよいか
RQ2．エキスパートレビューアが限られた時間の中で教育するにはどうしたらよいか
RQ3．若手レビューアが独学でドメイン知識を習得するにはどのようにしたらよいか
2.2 提案
RQ1 – 3 を解決する方法として，開発現場で使用している仕様書にあえて欠陥を埋め込んだものを教材とし，埋め込んだ欠陥を探し当てるレビューのトレーニング手法，
EIDeR-Training（Error Injected Document Review - Training）法を提案する．
はじめに，EIDeR-Training 法の概要について述べる．EIDeR-Training 法は，過去の欠陥情報に着目した手法である．若手レビューアは，過去の欠陥情報を読んでも，活用できないことが多い．例えば，記載されている欠陥情報を覚えることは出来るが，新しいプロジェクトのレビューにおいて指摘ができない場合が挙げられる． EIDeR-Training 法では，若手レビューアの理解を促すため，表 3 の施策を取り入れた．

3

第３分科会 （レビュー・ブート・キャンプ チーム）

施策 1

内容
レビュー教
材が身近な仕様書

施策 2

擬似的に失敗体験

施策 3

ポイント制を導入

表 3 EIDeR-Training 法の施策
理由
開発現場で過去に作成された仕様書に，実際に発生した欠陥を埋め込んだものを教材とすることで欠陥情報がより身近に感じられる．
レビュー演習において，指摘できないことは，実務において欠陥を流出させることを意味する．特に，影響度（ユーザ先で欠陥が発生するとどうなるか）を確認することにより，擬似的に失敗体験をさせることができる．
ポイント制を導入することにより，重要なドメイン知識に関する欠陥を指摘しなければ高得点が獲得できない．

次に，EIDeR-Training 法の実施手順について述べる．EIDeR-Training 法は，開発現場で使用している仕様書に欠陥を埋め込んだもの（以下，教材）をトレーニー（トレーニングを受ける人，本研究では，主に若手レビューアを対象と考える）にレビューさせ，レビュー後に自分で答え合わせを行うトレーニング手法である．高得点の場合は，そのドメイン知識において重要な点を理解していると判断する．不正解の場合は，答え合わせ資料（以下，解答）の間違えた箇所，特に影響度を読むことで理解を深める．埋め込む欠陥は，重要度に応じてポイント配点を変え，重大と思える欠陥を高得点に設定する．以下に，教材，解答の作り方とトレーニングの実施手順について説明する．
はじめに，教材，解答の作り方について述べる．準備するものは下記の 2 点である．
(1) 開発現場で使用している設計書・仕様書(2) (1)に存在した不具合・欠陥を蓄積した文書
教材は，（1）の設計書・仕様書に，レビュー記録票や後工程，リリース後に発覚した（2）の欠陥情報を埋め込むことで作成できる．解答は，（1）に（2）の欠陥が発生した際の影響度を記載することで作成できる．
（2）には，下記（A）から（C）を一緒に蓄積することを推奨する．
(A) 影響度（欠陥を見落とすとユーザがどのような影響を受けるか）(B) 欠陥の内容(C) 原因（欠陥を作り込んでしまった原因）
埋め込む欠陥は，若手レビューアに身に付けて欲しいドメイン知識とし，重要度を付ける．重要度を付ける理由は，欠陥の重要度の見極め方やレビューのコツ（重大な欠陥を優先的に指摘する）を習得して欲しいためである．表 4 に重要度と欠陥内容の関係を示す．

重要度
重大欠陥
中欠陥
軽微欠陥

表 4 重要度と欠陥内容の関係
欠陥内容
・ユーザが復帰できない不具合が生じる内容
・身に付けて欲しいドメイン知識・ユーザが復帰できる不具合が生じる内容
・その他のドメイン知識・ユーザが不具合と気付かない内容

4ポイント20
10第３分科会 （レビュー・ブート・キャンプ チーム）ポイントは，トレーニングの採点と若手レビューアの理解度の確認に活用する．以下に，埋め込み方について説明する．欠陥情報の埋め込み方は，表 5 に示す 3 つの方法がある．
サンプル仕様書を用いた欠陥の具体的な埋め込み方は，付録に示す．
表 5 欠陥情報の埋め込みパターン
パターン
（状況）

状況に対する現場での対応

仕様書の記載に不備があった場合不備を修正した仕様が記載
される

仕様書の記載に漏れがあった場合漏れた仕様が記載される

身に付けて欲しいドメイン知識を埋め込みたい場合なし

欠陥の埋め込み方（教材の作成方法）
古い版の仕様書から引用する
追記された仕様の記述を削除する
新たに欠陥情報を記載
する

次に，トレーニングの実施手順（表 6）について述べる．

手順 1
手順 2
手順 3
手順 4

表 6 トレーニング手順
実施者
実施内容
トレーナー トレーニーに観点を伝える
トレーニー 定められた時間内に教材をレビューする
トレーニー 解答を確認し，採点する
トレーニー 間違えた箇所の影響度を確認する

手順 1 では，トレーニーに観点を伝える．観点を伝えない場合，トレーニーの思考は発散し，何に対してレビューすればいいかわからなくなるためである．
手順 2 では，時間を定め，トレーニングを実施する．時間を定める理由は，時間を定めると適度な緊張感が得られ，集中して取り組むことが出来るためである．定める時間は，一教材あたり 20 分程度を推奨する．
手順 3 では，自己採点し，トレーニーは，自身にどのくらいドメイン知識が備わっているか確認することができる．
手順 4 では，間違えた箇所の影響度を確認する．実際の開発であると想定すると，間違えた箇所は，見逃した欠陥となる．欠陥を見逃すとどのような不具合が発生するか確認す
ることにより，擬似的な失敗体験をすることが出来，ドメイン知識が経験に基づく知識となる．
3. 提案手法の検証
3.1 実験の目的
EIDeR-Training 法の効果，有用性を検証するため，以下のレビュー実験を実施した．効
果，有用性は，教材の作成時間，実験前後のアンケートとトレーニーの取得したポイントから測定した．効果を確認した主な項目は，以下 3 点である．
(1) ドメインに依存した不具合発見率は向上したか？
(2) トレーニング教材を作成するコストはどのくらいか？
(3) トレーニーは独学でドメイン知識を向上できるか？

5

第３分科会 （レビュー・ブート・キャンプ チーム）
3.2 実験方法
実験は，各研究員の組織で実施した．実験手順は，表 7 に示し，各組織が対象とした工程を表 8 に示す．トレーニングは 2 回実施しているが（表 7 手順 3，4），1 回目のトレー
ニングでは，トレーニーに観点を伝えずに実施している（表 6 手順 1）．観点を伝えなかった理由は，1 回目のトレーニングでは，レビュー・トレーニングを経験していない状態での欠陥指摘件数を取得したいためである．以下に，実験を測定するために用意したアンケートについて述べる．

手順 1
手順 2
手順 3
手順 4
手順 5

表 7 実験手順
実施内容
教材用意
事前アンケート実施
トレーニング実施（1 回目）
トレーニング実施（2 回目）
事後アンケート実施

工程

表 8 各組織の実験一覧
組織 A
組織 B
詳細設計
○
テスト
○

組織 C
○

アンケートは，事前アンケートと事後アンケートの 2 種類を用意する．
事 前 ア ン ケ ー ト の 目 的 は ， 被 験 者 の 立 場 や レ ビ ュ ー に つ い て考 え て い る こ と ， ま た ， 被験者の立場の違いが，トレーニングの効果に影響するかを調査するためである．
事 後 ア ン ケ ー ト の 目 的 は ，ト レ ー ニ ー に と っ て EIDeR-Training 法 が 有 効 か 調 査 す る た めである．
3.3 実 験 結 果
レビュー実験結果を以下に示す．
はじめに，トレーニング前後におけるポイントを図 3 に示す．図 3 より，ポイントが増加 し た 人 が 10 名 ，変 化 な し ，減 少 し た 人 が 4 名 で あ る こ と が 分 か る ．以 下 に ，若 手 レ ビ ュー ア と ベ テ ラ ン の 傾 向 を 示 す（ 若 手 か ベ テ ラ ン か の 立 場 は ，事 前 ア ン ケ ー ト Q1 に て 調 査
し て い る ． 詳 細 は ， 付 録 2， 4 を 参 照 ）．
研究の対象となる若手：一回目の実験では重要度：低を多く指摘していたが，二回目の実験では重要度：低を指摘せず，中以上の指摘をするように変化した．全体的に指摘件数が増えている．特に一番年数の若い 5 年目のメンバの伸びが大きかった．
ベテラン：一回目の実験の時点で重要度：中以上のみを指摘しているが，二回目の実験
ではさらに重要度：高の欠陥を指摘することができ，トレーニングの効果を確認できた．
しかしながら，若手よりも指摘件数の伸びはなかった．
96

取得ポイント100804960402051292617704

4 201234627523450323222202 20000

9101213140578
被験者

11

図3：トレーニング前後の取得ポイント

6

1回目
2回目

第３分科会 （レビュー・ブート・キャンプ チーム）
次 に ，教 材 の 作 成 時 間 を 表 9 に 示 す ．1 つ の 教 材 に 対 し て ，20 分 程 度 か か る 結 果 が 得 られ た ． 教 材 A， B は ， 初 め て 作 成 し た 教 材 だ っ た た め 時 間 を 要 し た ．
表 9 教材作成時間
A B C D E教材
作 成 時 間 [min] 30 30 11 9 15F15

最 後 に ， 事 後 ア ン ケ ー ト の 結 果 に つ い て 述 べ る． 全 て の 組 織 に お い て 同 じ よ う な 傾 向 が見 ら れ た ． Q1 で は ， ト レ ー ニ ン グ の 所 感 を 訊 ね ， 肯 定 的 な 意 見 が 得 ら れ た ． Q3 で は ， トレーニング教材の分量を訊ね，適当と感じた人が多かった．
Q3. 今回のトレーニング教材の分量はどのように感じましたか？

Q1. 今回のレビュー・トレーニングを受講し，どのように感じましたか？
d：0
c： 1

e： 0
a：3

b：10

a. 非常に有効
である
b. 有効である

d：0

a： 0

b. 少し多いb： 3c. あまり有効ではない
d. まったく有
効ではない

a. 多い

c： 11c. ちょうど良い
d. 少し少ないe. 少ない

図 5： 事 後 ア ン ケ ー ト 結 果 2

図4：事後アンケート結果1

3.4 考 察2.1 節 で 設 定 し た 下 記 RQ に つ い て 考 察 す る ．
RQ1 ． 若 手 レ ビ ュ ー ア を （ 短 時 間 で ， か つ ， 実 害 の あ る 失 敗 は さ せ ず に ） レ ビ ュ ー を 任 せられる 人材 に成 長さ せ るには どの よう にし た らよい かEIDeR-Training 法 で 成 長 さ せ る こ と が 出 来 る が 運 用 に 注 意 が 必 要 と 考 え る ． 図 3 の 被 験
者 4，7，12，13 が 開 発 経 験 の 浅 い 人 ，被 験 者 6，14 が プ ロ ジ ェ ク ト の 途 中 か ら 参 加 し た 人である．
はじめに，開発経験の浅い人について考察する．1 回目と 2 回目の実験結果を比較すると ， 被 験 者 4, 7 の 点 数 が 下 が り ， 被 験 者 12 の 点 数 が 上 が っ て い る ． 実 験 結 果 と 事 後 ア ンケ ー ト か ら ， 影 響 を 与 え た 要 因 は ， 教 材 で あ る と 考 え る ． 被 験 者 4, 7 の 使 用 し た 教 材 に 埋め 込 ん だ 欠 陥 数 は ，10-11， 被 験 者 12 の 使 用 し た 教 材 に 埋 め 込 ん だ 欠 陥 数 は ，6， 被 験 者
13 の 使 用 し た 教 材 に は ， 5-7 で あ る ． 被 験 者 7 の 事 後 ア ン ケ ー ト か ら は ， 分 量 が 少 し 多 いと回答されている．経験の浅い人に対しては，埋め込む欠陥数を絞って運用する必要があると考える．埋め込む欠陥数は，6 程度を推奨する．
次 に プ ロ ジ ェ ク ト の 途 中 か ら 参 加 し た人 に つ い て 考 察 す る ． プ ロ ジ ェ ク ト の 途 中 か ら 参
加した人の点数は上がっている．点数が伸びた要因としては，ドメイン知識を身につけることができたためと考える．ただし，データ数が少ないため，今後もデータ収集を続けた
い．

7

第３分科会 （レビュー・ブート・キャンプ チーム）
RQ2 ．エ キス パー トレ ビュー アが 限ら れた 時 間の中 で教 育す るに は どうし たら よい か
EIDeR-Training 法 が 有 効 だ と 考 え る ．表 9 よ り 1 教 材 あ た り 20 分 程 度 か か る こ と が わ かった．繰り返し使える教材であるため，妥当ではないかと考える．ただし，短い期間でドメイン知識が陳腐化するような業界では，その都度，新規に作成する必要がある．
RQ3 ．若 手レ ビュ ーア が独学 でド メイ ン知 識 を習得 する には どの よ うにし たら よい か
研究員は実験の準備には手間を要したものの，被験者が実験に取り組んでいる最中は，支援や指導などを行う必要はなかった．そのことを若手レビューアが独学でドメイン知識を習得したとは言い切れないが，当初意図したエキスパートレビューアや教育担当の手間は減るものと考えられる．
4.

おわりに
本 研 究 で は エ キ ス パ ー ト レ ビ ュ ー ア に 負 荷 が 集 中 し ，若 手 レ ビ ュ ー ア の 育 成 が で き な い
問題に対して，実務において失敗をさせずにドメイン知識を習得する手法として
EIDeR-Training 法 を 提 案 し た ． EIDeR-Training 法 を 検 証 す る た め に ， 実 験 を 実 施 し ， 以 下の成果が得られた．

・ソフトウェア開発における工程や経験年数に関わらず効果が見られた．
・若 手 レ ビ ュ ー ア に 対 し て は ，埋 め 込 む 欠 陥 数 を 絞 っ た 教 材 を 使 用 す る と 効 果 が 見 ら れ た ．
今回は，短期間の実験であったため 1 回の実験にて 2 回のレビューを実施した．この実験により，短期間でのドメイン知識の定着は確認できたが，一定期間をおいた場合の効果を確認していない．そのため今後は，ドメイン知識の定着度を測定したいと考えている．
また，本研究を進めるにあたって，ドメイン知識に対するトレーニングを題材にした過去の研究について調査したが，海外の論文を含めて見当たらなかった．これを機にドメイン知識の教育に対する研究が盛んになることを望む.
5. 参 考 文 献[1] 細 川 宣 啓 ， 永 田 敦 ， 森 崎 修 司 ， 西 村 英 俊 ， 小 田 部 健 ， 添 田 健 太 郎 ， 中 谷 一 樹 「 レ ビ ュー オ リ エ ン テ ー シ ョ ン キ ッ ト を 用 い た 育 成 に よ る レ ビ ュ ー 文 化 の 醸 成 」，日 本 科 学 技術連 盟 SQiP 研 究 会 ， 2011[2] 細 川 宣 啓 ，永 田 敦 ，藤 原 雅 明 ，森 崎 修 司 ，上 田 裕 之 ，高 橋 功 ，高 橋 実 雄 ，中 谷 一 樹「 HDR法 : 仮 説 駆 動 型 レ ビ ュ ー 手 法 の 提 案 」， 日 本 科 学 技 術 連 盟 SQiP 研 究 会 ， 2012[3] 竹 下 千 晶 ， 山 路 厚 「 技 術 者 の ス キ ル 向 上 に つ な が る ピ ア ・ レ ビ ュ ー に 進 化 さ せ る 仕 組み 」， (株 )デ ン ソ ー ク リ エ イ ト プ ロ ジ ェ ク ト セ ン タ ー 現 場 改 善 推 進 室 ， SQiP シ ン ポ ジウ ム 2012[4] 森 崎 修 司 著 ，「 間 違 い だ ら け の 設 計 レ ビ ュ ー 」， 日 経 SYSTEMS， 20148