Test.SSFとTPI NEXT を参考に、QA Engineer の評価基準をつくって1年運用してみた話

これは[ソフトウェアテスト Advent Calendar 2019 - Qiita 12日目](https://qiita.com/advent-calendar/2019/softwaretesting)	のエントリです。

はじめまして。
福岡の会社でQA Manager をしています、Fukunaga と申します。

今回所属するQA組織で今年から運用を開始している **QA Engineer の評価基準** を策定～運用してみた話を綴ります。
皆さん現場で使えるテストスキルのお話が多い中で、ちょっと毛色が違う内容で恐縮ですがよろしくお願いします。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/2faf577b-b0e9-59b8-bf3e-bd3139408667.png)

#はじめに
私が評価基準を作ろうとした際に、この手の情報がなかなか見つけられずに苦労しました。

そういった「今から作る方」「既にある基準を改善したい方」に向けて。
また「評価される側」として現職の テスター、QA エンジニアの方にも
裏側の葛藤など少しでも伝わればと思いこのテーマを選択しています。

*※こういった記事の執筆や社外に向けて公開した事がないため、*
　*読みづらい部分も多々あると思いますが、なにか得るものがあれば幸いです。*

#【最初に結論】
<dt>1.評価基準のベースになるモデルは既に世の中に存在する。
 　私よりもはるかに賢く、本気の先人たちの叡智の集合体なのでありがたく活用させて頂く</dt>
<dt>2.とはいえ丸パクリしただけでは本来の価値を発揮できない。
　参考元の理論、理念を深く理解し、自分たちの目的と環境に沿ってテーラリング(最適化)していく</dt>
<dt>3.どれだけ真剣に準備をしても、必ずどこかは失敗する。 一回目で完璧はありえない。
　繰り返し改善を重ねて少しづつ良くしていく。諦めない心と粘り強い行動力がキモ</dt>

#【背景/課題】

それでは、まず基準策定以前の背景、課題をかんたんに記載します
##■内部事情
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/84305bd4-bb9f-d365-fbb9-d02d8f126d35.png)
<dl>
<dt>1.従来の評価基準の形骸化</dt>
<dd>過去に策定されたスキルマップは存在していたが、現在のニーズとマッチしなくなり活用されていなかった</dd>
<dd>そのため最新の業界、組織状況を踏まえて求める QA Engineer 像が**明示されていなかった**</dd>
<dt>2.社内QAスキルのガラパゴス化</dt>
<dd>基準が曖昧化していたことで、同じ"QA Engineer"でも、アレができるがコレはできないなどレベル感の偏りが顕著に</dd>
<dd>そのため昇進、昇格のたびに「なんでアイツが？」となり現場からの**評価への納得感**が失われていた</dd>
<dd>QA Engineer自身も、自分達が客観的にどの程度のスキルを持っているか判断できず、
**不安や確かな自信を持てずにいた**</dd>
<dt>3.成長鈍化</dt>
<dd>目指すべき道が見つけられない人たちが増加</dd>
<dd>
  →「何したらいいもわからない上に、やっても昇給するかもわからない(だからしない)」
  →「上司のお気に入りしか昇進しない」という悪評、悪循環が生まれつつあった(主観)</dd>
<dd>(評価だけの問題ではないが)間接的に**専門職として技術力の向上に目を向けづらく、人海戦術から卒業できない**
など全体的な成長を妨げるリスクを抱えていた</dd>


##■外的要因
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/44d53d6e-52c8-5bd6-cc3d-9ab2ca0df893.png)
<dt>1.全社的な人事制度の変更</dt>
<dd>2019年度より、会社全体の人事制度に変更が入り、従来よりも細かいランク規定が制定されることになった</dt>
<dd>※それに伴って細分化したランク毎にQA Engineerの 評価基準を制定するよう、ボスからお達しを受ける</dd>
<dt>2.経営層への認知度</dt>
<dd>明確な基準もなく、業務内容や成果を組織外に向けて共有する仕組みが存在しない
→ 社内ですらQAのお仕事がブラックボックス状態</dd>
<dd>偉い人**「QAってなにしてるの？」**</dd>
<dd>→ このままじゃおちんぎんに期待できない..！</dd>


#【目的】
上記背景を踏まえて、以下の目的で新しい QA Engineer の評価基準を作ることにしました
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/ad39ac64-b6f4-9fb0-4522-a4adab29060f.png)
<dt>1.求められるQA Engineer像を明示化する</dt>
<dd>評価を通じて求められるスキルの理解と、QA Engineer 本人が現在のスキルレベルを客観的に理解できること<dd>
<dt>2.評価の妥当性の向上</dt>
<dd>各QA Engineer のスキルレベルを視覚化、公開することで失わてれていた評価への納得感を向上する</dd>
<dt>3.成長促進<dt>
<dd>業界で認知され評価を受けているモデルをベースとして活用し、市場ニーズの高いスキルの理解と習得の促進</dd>
<dt>4.認知向上</dt>
<dd>業界標準のベンチマークを用いた測定結果を人事評価に組み込み、
<dd>QA組織のレベル、価値に対する経営層からの理解度の向上の材料に → おちんぎん上げたい..！</dd>

#【参考にしたもの】
- **① Test.SSF**
- **② TPI NEXT**
- **③ 現場の声**

##① Test.SSF
<dt>http://aster.or.jp/business/testssf.html</dt>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/c0b68180-9b10-eb13-92cb-76e67d92f7e8.png)

<dd>著名なモデルですのでここでTest.SSF自体の詳細は省きますが、</dd>
<dd>このモデルの資料に記載された"目的"や、活用対象等がまさに私達の課題にピッタリで、先ずコチラに目をつけました</dd>
<dd>Test.SSF からは「全体的な構造」、「段階的なレベル定義」、「現在のソフトウェアテスト業界で求められるスキルのハードル感」など大枠の部分でとても参考にさせて頂きました。</dd>
<dd>特に、**このモデルに込められた"理念"にとても共感を覚え**、改めて気が引き締まりました。</dd><br>
<details><summary>
>公式より引用「Test.SSFの公開に寄せて」</summary>
日本のソフトウェアテストの技術は、世界に対して誇れるものでしょうか。
日本のソフトウェアテストの産業は、世界に対して競争力を持つものでしょうか。
私たちASTER（ソフトウェアテスト技術振興協会）とIVIA（IT検証産業協会）は、日本のソフトウェアテストの現状に危機感を持ちつつ、その一方で明るい希望を持っています。多くの日本のソフトウェアテストのエンジニアは、自分の技術を他人に説明することができません。
すなわち、技術が低いように思えます。これが危機感の源泉です。一方、一部の日本のソフトウェアテストのエンジニアは、他人に説明こそできないものの、豊富な経験と鋭い洞察力を基にした質の高いテストを行っています。すなわち、高い技術を持っています。これが希望の源です。

>日本のソフトウェアテストの産業は、これからどこへ向かっていくのでしょうか。技術の高さを説明できないまま、顧客に単価をダンピングされて有能な人財に去られ、壊滅していくのでしょうか。それとも、技術の高さをアピールして顧客に高い付加価値を提供し、同時に高い技術をベースラインとして継続的な技術の高度化を行い世界に冠たる産業に成長していくのでしょうか。

>我々は分岐点に立っています。いま行動を起こさなければ、産業は壊滅していくでしょう。我々は、座して待つわけにはいきません。いま必要なことは何か。いま行うべきことは何か。いますぐに、行動しなくてはなりません。
その一つのアプローチが、Test.SSFです。Test.SSFは、テストのスキル、すなわち実践的なスキルの高さを示すためのフレームワークです。テストのスキルが高い組織は、Test.SSFを用いることでスキルの高さを明示することができるようになります。テストのスキルが高いとは言えない組織は、Test.SSFを用いることでスキルを向上する目標を明確に設定し努力を始めることができるようになります。顧客組織は、より高いスキルを持つ組織に仕事を依頼することができるようになります。

>Test.SSFは、日本で駆使されている高いテスト技術をベンチマークし、説明可能に致しました。そのため、皆さんの組織では耳慣れない概念や技術用語、工程などがあるかもしれません。大事なことはTest.SSFに自組織を合わせるのではなく、Test.SSFを用いて自組織に眠っている高い技術を掘り出し育てることです。ASTERとIVIAの願いは、Test.SSFを用いて自分たちを鍛える組織が増え、日本のソフトウェアテスト産業が世界に冠たる存在に成長していくことです。Test.SSFを用いてソフトウェアテストエンジニアが高い技術を持っていることに気づき、誇りを持って働けるようになることです。ぜひTest.SSFを用いて自分たちを鍛え、日本のソフトウェアテスト産業を世界に羽ばたかせてください。
ぜひソフトウェアテストエンジニアが誇りを持って働けるようにして下さい。ASTERとIVIAはTest.SSFという活動を通して微力ながらも尽力してきたいと考えております。どうぞよろしくお願い申し上げます。

>2011年7月　ASTER理事長 西康晴</details><br>
<dd>当然ながらスキルカテゴリ/個別の項目内容についてはそのままではさすがに完全にマッチしない部分もあり、
現状の職務要件やニーズに沿ってテーラリングが必要でした。</dd>


##② TPI NEXT
<dt>https://www.tmap.net/building-blocks/test-process-improvement-tpi</dt>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/5eb92457-ba2b-27a8-811d-e56fd4871236.png)
<dd>そこで、個々のスキル項目はTPI NEXTというテストプロセス改善モデルのアセスメント項目を参考に構築しました</dd>
<dd>もともとTPI NEXTは別で学習、社内活用を進めていたこともあり、
既にアセスメント項目を社内向けにテーラリングしていたため、策定コストを抑える意味でも世界的に汎用的なスキル定義ができることも意識してこちらを活用しました</dd>
<dd>以下にスキルマップのスクショを掲載していますが、**大項目>中項目>小項目等のフレームワークはほぼこちらから引用**しています。</dd>
<dd>最小項目の内容を他の参考物と合わせて取捨選択、自社向けに文言の再翻訳をかけて適応しました。</dd>
<dd>こちらもTPI NEXT そのものについての説明は他の方がたくさん良い記事を出していますので、こちらでは割愛します。</dd>

##③ 現場の声
<dd>一方的に管理職だけで定めた項目では納得感や、現場の実態とかけ離れたものができてしまう懸念もあったため、</dd>
<dd>QA Engineer 本人達にも協力頂き、それぞれの実務からの体験談</dd><br>
<dd>・「このスキルがあったのでうまくやれた事例」</dd>
<dd>・「あるスキルが不足していたので困った事例」</dd><br>
<dd></dd>
<dd>などをテーマにディスカッションし、そこで得た生の意見も参考に項目を追加しました</dd><br>
<dt>例</dt><br><dd></dd>
>・Gitに関する知見があった → Developer のデプロイ順序ミスを察知 → 本番障害を未然に防げた</dd>
>・HTMLの知見がないテスターから、同一原因だが複数箇所で発生している問題をバラバラに報告されて苦労した 


<dd>などなど</dd><dd>これらを元に、昇格試験や評価サイクルの制定 ( レビューのフローなど )</dd>
<dd>QA Engineer 協力のもとシミュレーションを何度か実施し、2019年度から運用開始がはじまりました</dd>

#【意識したこと】

<dt>テーラリング</dt>
<dd>既存のモデルを持ってきただけでは、どうしても自社の状況にマッチしない部分があるもので、テーラリングは必須かと思います(元のモデルでもそれが推奨されています</dd>
<dd>そもそも状況によって変わるのでコレが正解！といったものもないかと思いますが</dd>
<dd>・**「参考元のモデル自体をまずは深く理解すること」**</dd>
<dd>・**「多くの人を巻き込み広い視野での意見をもらうこと」**</dd>
<dd>この2つはいずれにせよとても大事なポイントだと思います</dd>
<dt>Be Agile </dt>
<dd>どうせならガチっと長く使えるものを作ろうと思ってしまいがちですが</dd>
<dd>素早く変化し発展していくこの業界で、普遍的なスキルを意識してたら一向に形にならないと思いあえて一旦忘れました</dd>
<dd>そのため必ず継続的な改善が必要になる前提で、小さくスピーディーに出していこう というスタンスで実施しました</dd>
<dd>そもそもがタイトなスケジュールでマストの締め切りがあったこともあり</dd>
<dd>これはもう、未来の自分やその時の当事者たちが継続してより良いものにしていく。
もしくは施策がゾンビ化してしまったら破棄してもいいと"振り切れた"事が実際に形にするために重要な考え方だったと感じます</dd>
<dd>※もちろん実際にいろいろと詰めが甘いところ、不備があって関係各所に一部負荷を強いることもありました。</dd>
<dd>当然それによって周囲からの不平不満、容赦ないマサカリ死ぬほどふってきましたし、申し訳なさもたくさん感じました。ですが、**なにもないままより絶対良くなる**と強く信じて考え続け、施策を動かし続けました。</dd><br>
<dt>気合い</dt>
<dd>技術力向上のため！ とかインテリなこと言いながら、この手の施策を形にするためには結局、
考え抜いて動き続ける**マッチョな気持ち**が最も重要なことかもしれません(根性論)</dd>
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/b8e1388b-3877-26e6-5b32-8e1bfc4ad25d.png)

#【完成品】
上記の流れでできた評価基準を一部公開いたします<br>
###スキルマップ
<dd>スキル項目は【参考にしたもの】をベースに用語や社内の事情に最適化した文言に整え、そのスキルが必要とする目的、不足している場合の懸念事項を合わせて見せるようにしています。</dd>
<dd>"何が"必要か。だけでなく"なぜ"必要なのか。という点も合わせて理解を促したい狙いです。</dd>
![スクリーンショット 2019-12-08 16.50.19.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/db5dd9ca-dbd4-c0d3-9a43-db295d18e602.png)
###スキルレベル
<dd>Test.SSF の段階評価をベースに社内の対象者のレベル感や期待値に沿って全面的に 段階評価の基準を制定しなおしました</dd>
<dd>上記スキルマップの項目に対して、それぞれ5段階評価で選択します</dd>
<dd>また、会社自体のVISION/MISSION で示されるコンピテンシー要素を加点項目として追加しています。</dd><br>
<dd>各項目に対して5段階評価を実施し、総合スコアが基準値を満たした場合にランクアップ目安となる仕組みです</dd>
![2019-12-09_14h55_56.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/2ef45016-5047-0d3f-10c6-db14e0763e78.png)


###評価サイクル
<dd>評価サイクルはこのように自己評価→上長評価→(特定のランクでは昇格試験）→結果 という大まかな流れで動かしています。</dd>
<dd>基本的に半期ごとに実施しています</dd>
![2019-12-09_13h28_36.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/3480411b-64b6-52e8-2a2c-61e9188db0e5.png)


#【初回運用してみての反省】

形作るまでも、まぁまぁ血反吐吐きながら作っていたのですが、本当の地獄は運用を開始してからでした

###初回実施後の主要な課題
- 評価項目の認識ズレ
- 評価者間の認識ズレ
- 評価にかかるコスト(過密日程)

<dt>評価項目の認識ズレ</dt>
<dd>社内向けにスキル項目を再翻訳したとは言え、ある程度のベースとなる知見がないと意味が理解できないことも多々ありました</dd>
<dd>そのため、評価者とQA Engineer相互にスキル項目の内容の認識合わせに時間がかかりました</dd>
<dd>ただ、ここは初回は特に必須で発生するコストと事前に割り切っていたため
適宜説明を行いなんとか認識埋め合わせをして進めることができました</dd>
<dt>評価者間の認識ズレ</dt>
<dd>これはキャリブレーションを目的に、複数の組織長間で相互に別組織の社員の評価の最終チェックを行うPhaseを設けていたのですが</dd>
<dd>組織によって、レベル基準判断のブレが大きく**お互い判断に異議アリ！で殴りあい疲弊しきってしまう惨劇**となってしまいました</dd>
<dd>結果的にキャリブレーションという目的は果たせたものの、評価者のメンタルが一時的に崩壊した事でその後この辺のルールは大幅に改定されることになりました()</dd>
<dd>個人的にここが一番苦しく、また反省すべき点が多かった部分だと感じています。</dd>
<dd>同じ組織内、同じマネージャ同士という点で甘えが少なからずあり、お隣の部署の方まで相互理解を深めるための事前の動きが足りなかったと後から反省しました。</dd>
<dd>普段から QA Engineer に対してDeveloper やPlannerと早期に認識揃ってるかしっかり確認せぇ！と言ってる自分ができてませんでした(泣)</dd>
<dt>評価にかかるコスト(過密日程)</dt>
<dd>後はシンプルに時間がかかることも継続課題です</dd>
<dd>旧スキルマップと比較して単純な項目数は 半分程度まで削減できたのですが、どうしても慣れていないこともあり</dd>
<dd>またやってみたら運用面含めて想定以上に考慮漏れや予期せぬトラブルが発覚するなど、関係者全員ボロボロになりながら初回の評価を終えました (皆様ご苦労をおかけして大変申し訳ございませんでした)</dd>
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/09b6e0e1-c4f8-448e-91cc-2a34832e3bfd.png)

#【その後】
<dt>いまも改善中</dt>
<dd>上記の多大な犠牲、反省を無駄にしないため、 次回評価までの間に「改善委員会」を発足し、各組織長との連携を強める、現場にアンケート+QA Engineer 自身も委員会加入希望を実施</dd><br>
<dd>現在も委員会を中心に、全体コスト最適化や、基準の認識固め、各種ガイド資料の充実等リアルタイムで改善を重ねながら最適な方法を日々探しています</dd><br>
<dd>またスキルが視覚化、数値化された事で様々な分析、適材適所なアサインへの活用等今後の発展も継続して実施していきたいと考えています。</dd><br>
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/16ff482b-0459-03f9-0215-5255305fd649.png)

<dt>効果</dt>
<dt>■求めるQA像の明示化、妥当性、方向性理解の向上</dt>
<dd>まだまだ多くの課題は残るものの、</dd>
<dd>しっかり向き合って**力量を証明した方達が適切な評価を受け昇格**することができ、</dd>
<dd>またこれまで避けてきた**高度なスキルへの興味関心、広範囲へのアウトプット等も必要性も相まって積極的に取り組む姿勢**ができてきています。</dd>
<dt>■現場からも"自信に繋がった"というフィードバック</dt>
<dd>今まで自分の客観的な力量がわからず自信が持てなかった方も、
強みと成長ポイントを把握したことで**「自分がある程度できている事がわかって自信になった。」「何が必要とされているか把握でき、次の目標を定めやすくなった。」**という意見もよく頂きました</dd>
<dd>当然評価者の立場としても、フィードバックをする際に 評価項目を引き合いに新しいチャレンジ促進にも活用できるようになるなど有効性を体感しています</dd>
<dt>■偉い人の理解度向上</dt>
<dd>スコアの妥当性を証明するために、スキルマップとは別に定量的な成果を証明する仕組みがあるのですが、
<dd>これが昇進・昇格の際に面談資料として提示されることりになり**「QAはここまでやっていたのか」「本当に居ないと困るね」**という理解を得られました。</dd>
<dd><font color="Lavender">肝心のおちんぎんについてはここでは自粛しますが、顔で察してください:relaxed:</dd>
<dt>■ Ownership の芽生え</dt>
<dd>何よりも、全体を通して現場の QA Engineer を巻き込み協力を常に頼ってきたことで</dd>
<dd>**自分たちの働く環境は自分たちで良くできるんだ！**という"Ownership"の芽生え、向上にも収穫があったことは嬉しい誤算でした</dd>
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/07714920-4031-11f3-22c0-4319b16366ec.png)

#【さいごに】

<dd>この指標の策定と運用を通じて、冒頭にあげた多くの課題に対して 大なり小なり改善効果を生み出す事ができたことは間違いありません</dd>
<dd>ただ1つだけ絶対にできないことを知りました</dd><br>
<dd>それは**誰もが納得できる評価基準**はできないということ。</dd><br>
<dd>当たり前のことですが、この取組みを通して改めてこの"理想"は実現が難しいし、何より優先度が高くないということを感じました</dd>
<dd>評価には必ず優劣がつくものであり、みんなが納得したり気持ちよくなるためものではないからです。</dd><br>
<dd>もちろんそこに現場の納得感が強い方が正しい運用が継続可能なので、すべては捨てられないものですが、あまりにも現場の声を聞きすぎて本来の目的を忘れないようにという自戒の念を込めて書いてます</dd><br>
<dd>もしかしたら、世の中にはもっと頭が良くて両立できちゃう方もいるかもしれません、そんな自信のある方は是非仲間になって一緒に良くしていきましょう。ご応募お待ちしています:angel_tone2: </dd><br>
<dd>とりあえず、みんなに井の中の蛙としてではなく、大海でも強く生きていけるようにと願いをこめて今も絶賛評価進行中です</dd>
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/529031/ee801dfb-1ad1-b0c4-4adb-5b70bd9e0378.png)

###PR
この基準策定を一緒に進めて頂いた上司も「小ネタ」の方でAdvent Calendar参加していますので、是非覗いてみてください
> 12/23の記事　https://qiita.com/advent-calendar/2019/software-testing-koneta

<dt>:hugging:同じ悩みを持つ方、乗り越えた方など是非意見交換させてください:hugging:</dt>
> Twitter：https://twitter.com/fm03fmfm