【スーパーの女神】出勤したらやることを教えてくれるおねえさんを創り出す【claude】

## 出勤したらやること教えて、おねえさん！
　こんにちは、業務効率化おねえさんを作成することに命をかける女、ゆいです。

　突然ですが、人間は忘れる生き物です。
　毎日同じことをしているはずなのにどうしても抜け漏れが発生します。

　私は小売業で働く社員です。出勤した直後に何をすべきかを毎日洗い出してパートさんに指示を出していました。
　ですが、だんだんルーティンタスクを抜かしてしまい、いつもであればできていたことを「うっかり」やり忘れてしまうことがたまに起きてしまうことがありました。

 （「うっかり」報告書の提出を忘れたり、「うっかり」POPの外し忘れがおきたり…）

 　また、社員である私とパートさんでは取り組む業務に違いがあります。私と同じように動いてもらおうとしてもうまくいくわけがありません。


　なので今回は、Teachable Machineを使って社員かパートかを判別し、各々に割り当てられたタスクを表示するというアプリを作成することにしました！





　ただシンプルなアプリだと使いたいと思ってもらえないかもしれないので、かわいいおねえさんを表示して親しみをもってもらうことにしました。

 ![スクリーンショット 2024-06-26 21.24.03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3779323/46d35f74-0352-3fdb-342b-687eee0b786b.png)

（↑今回のおねえさん）


　今回はほぼclaude~~にやってもらいました~~と一緒につくりました。
　作成する物自体はほぼclaudeが作成してるので、今回は「どんな過程を辿ったか」を遺しておきます。



## 今回のおねえさんのなかみのご紹介
　今回はTeachable Machineを使って、画面に映った人間の役職を判別し、役職に合わせたルーティンタスクをお知らせしてくれるアプリになります。

用意するものは以下です。

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3779323/c3643aa4-3eb0-261f-2865-fa8ac1ee74ab.png" width=50%>


![スクリーンショット 2024-06-27 4.43.06.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3779323/275ccf86-fbfc-e04b-b70b-c84e0b2a055f.png)

・Teachable MachineのモデルURL
・Teachable Machineが駆動するコードを内包したhtmlファイル
・表示したい画像

準備するのはこの３つです。

![スクリーンショット 2024-06-26 20.21.34.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3779323/ac4af4d2-675a-90bd-baf0-124713653b5f.png)

完成系はこんな感じ↑。

## おねえさんを作る手順

### ●Teachable Machineのモデルをつくる
[Teachable Machine](https://teachablemachine.withgoogle.com/)にアクセスしてモデルを作っていきます。
![スクリーンショット 2024-06-27 5.43.52.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3779323/416177d2-3964-a649-a8c8-58c30d422aa3.png)
今回は画像認識を学習してもらうので、画像プロジェクトを選びます。


<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3779323/831404a8-6b07-73fa-a728-f536b1da221d.png
" width=50%>

今回は社員（チーフ）の画像パターンと、パートさんの画像パターンを学習させました。

(※なお、区分けの方法は着用している制服で判別しているのですが、今回制服でどこの企業か判別できてしまうので隠させていただきました。)

学習パターンはそれぞれ１００枚ずつ撮影し、記録しています。

学習を終えたらモデルをエクスポートして、**必ずURLをコピーしておく**ようにしましょう。
あとで使います。

### ●テキストエディタでコードを~~コピペする~~書く

おねえさんが動くようにHTML形式のコードを書いたファイルを用意します。
私はmacbookAirを使用しているので初期装備の「テキストエディット」で作成しました。
（WindowsであればメモでもOKです。拡張子が.htmlにできるものであればとにかくOKです。）


<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3779323/abf4dca9-e574-decd-1427-b58bece8dff9.png
" width=50%>

![スクリーンショット 2024-06-27 10.22.10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3779323/4ad7d506-ab02-e285-544b-949e84661478.png)

　この真っ黒な画面にいよいよコードを~~コピペします~~書いていきます。　

 必要なものは生成AIのclaudeです。（chatGPTとかでもできると思いますが、今回はあんまりまだ使ってる人がQiitaにいなさそうだったclaudeを使用しました。）
　がっちがちのプロンプトじゃなくてもそれっぽいのをまず作ってくれるので、まずは「どんなことをしたいのか」を相談してみるような使い方をしてみるのも良いと思います。
　
![スクリーンショット 2024-06-27 10.47.40.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3779323/386ec267-3aba-068e-8ac1-9d0583b36b43.png)

ほんとにこのプロンプトを入れただけで下記のような答えが出てきます。

```
はい、Teachable Machineを使って人間を認識し、その結果に基づいてTodoリストや連絡事項を表示するシステムを作ることは可能です。以下に、そのようなシステムを構築するための大まかな手順を説明します：

1. Teachable Machineで人間認識モデルを作成:
   - Teachable Machineのウェブサイトで、画像プロジェクトを作成します。
   - 「人間がいる」と「人間がいない」の2つのクラスを作り、それぞれに対応する画像をアップロードして学習させます。
   - モデルをトレーニングし、エクスポートします。

2. ウェブアプリケーションの作成:
   - HTML、CSS、JavaScriptを使用してウェブアプリケーションを作成します。
   - カメラからの入力を取得し、Teachable Machineモデルで分析します。
   - 人間が認識されたら、Todoリストや連絡事項を表示する機能を実装します。

このようなシステムの基本的な実装例を示しましょう。以下は、HTML、JavaScript、CSSを使用したシンプルな実装です：



```html
<!DOCTYPE html>
<html lang="ja">
<head>
    <meta charset="UTF-8">
    <meta name="viewport" content="width=device-width, initial-scale=1.0">
    <title>人間認識Todoシステム</title>
    <script src="https://cdn.jsdelivr.net/npm/@tensorflow/tfjs@latest/dist/tf.min.js"></script>
    <script src="https://cdn.jsdelivr.net/npm/@teachablemachine/image@latest/dist/teachablemachine-image.min.js"></script>
    <style>
        body {
            font-family: Arial, sans-serif;
            display: flex;
            justify-content: center;
            align-items: center;
            height: 100vh;
            margin: 0;
            background-color: #f0f0f0;
        }
        .container {
            text-align: center;
            background-color: white;
            padding: 20px;
            border-radius: 10px;
            box-shadow: 0 0 10px rgba(0,0,0,0.1);
        }
        #webcam-container {
            margin-bottom: 20px;
        }
        #todo-list {
            text-align: left;
            max-width: 300px;
            margin: 0 auto;
        }
    </style>
</head>
<body>
    <div class="container">
        <h1>人間認識Todoシステム</h1>
        <div id="webcam-container"></div>
        <div id="todo-list" style="display:none;">
            <h2>今日のTodo:</h2>
            <ul>
                <li>朝のミーティング (9:00)</li>
                <li>プロジェクト提案書作成</li>
                <li>顧客とのビデオ会議 (14:00)</li>
                <li>週報の提出</li>
            </ul>
            <h2>連絡事項:</h2>
            <p>明日は社内研修があります。9時に会議室Aに集合してください。</p>
        </div>
        <div id="label-container"></div>
    </div>

    <script>
        const URL = "YOUR_TEACHABLE_MACHINE_MODEL_URL";
        let model, webcam, labelContainer, maxPredictions;

        async function init() {
            const modelURL = URL + "model.json";
            const metadataURL = URL + "metadata.json";
            model = await tmImage.load(modelURL, metadataURL);
            maxPredictions = model.getTotalClasses();

            const flip = true;
            webcam = new tmImage.Webcam(200, 200, flip);
            await webcam.setup();
            await webcam.play();
            window.requestAnimationFrame(loop);

            document.getElementById("webcam-container").appendChild(webcam.canvas);
            labelContainer = document.getElementById("label-container");
            for (let i = 0; i < maxPredictions; i++) {
                labelContainer.appendChild(document.createElement("div"));
            }
        }

        async function loop() {
            webcam.update();
            await predict();
            window.requestAnimationFrame(loop);
        }

        async function predict() {
            const prediction = await model.predict(webcam.canvas);
            for (let i = 0; i < maxPredictions; i++) {
                const classPrediction =
                    prediction[i].className + ": " + prediction[i].probability.toFixed(2);
                labelContainer.childNodes[i].innerHTML = classPrediction;
            }

            if (prediction[0].className === "人間がいる" && prediction[0].probability > 0.8) {
                document.getElementById("todo-list").style.display = "block";
            } else {
                document.getElementById("todo-list").style.display = "none";
            }
        }

        init();
    </script>
</body>
</html>


```

感謝しながらコピーして、テキストエディットに貼り付けましょう。

### ●実装→点検→修正をくりかえす




この時点で「うっかり」おねえさんを表示するようにプロンプトを出すのを忘れていることに気づきました。

あらかた実装できているのを確認したらこれを基に肉付けをしていきます。
もう一度生成AIに聞いてみましょう。



![スクリーンショット 2024-06-27 11.42.57.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3779323/ec8bbf5a-c4a2-acaf-ec27-a5c5c52d10b5.png)
プロンプトは上記のような形です。
結果は以下。

```
<div id="app-container">
    <h1>役職認識アシスタント</h1>
    <img id="character-image" src="your_image.png" alt="アシスタントキャラクター" />
    <button type="button" onclick="init()">開始</button>
    <div id="webcam-container"></div>
    <div id="dialogue-box">
        <div id="dialogue-content">
            こんにちは！私はあなたの役職認識アシスタントです。カメラを通して役職を認識し、ToDoリストをお知らせします。「開始」ボタンを押してください。
        </div>
        <div id="todo-list"></div>
    </div>
</div>

const URL = "https://teachablemachine.withgoogle.com/models/1WEs92J8P/";
let model, webcam, maxPredictions;
let lastRecognizedRole = "";
let noPersonCounter = 0;

async function init() {
    const modelURL = URL + "model.json";
    const metadataURL = URL + "metadata.json";
    model = await tmImage.load(modelURL, metadataURL);
    maxPredictions = model.getTotalClasses();

    const flip = true;
    webcam = new tmImage.Webcam(400, 400, flip);
    await webcam.setup();
    await webcam.play();
    window.requestAnimationFrame(loop);

    document.getElementById("webcam-container").appendChild(webcam.canvas);
    document.getElementById("dialogue-content").innerText = "カメラの準備ができました。あなたの役職を認識しています...";
}

async function loop() {
    webcam.update();
    await predict();
    window.requestAnimationFrame(loop);
}

async function predict() {
    const prediction = await model.predict(webcam.canvas);
    let maxProbability = 0;
    let recognizedRole = "";
    for (let i = 0; i < maxPredictions; i++) {
        if (prediction[i].probability > maxProbability) {
            maxProbability = prediction[i].probability;
            recognizedRole = prediction[i].className;
        }
    }
    if (maxProbability > 0.8) {
        noPersonCounter = 0;
        if (recognizedRole !== lastRecognizedRole) {
            showTodoList(recognizedRole);
            lastRecognizedRole = recognizedRole;
        }
    } else {
        noPersonCounter++;
        if (noPersonCounter > 30) {
            document.getElementById("dialogue-content").innerText = "誰もいないようですね。戻ってきたらまたお知らせします！";
            document.getElementById("todo-list").innerHTML = "";
            lastRecognizedRole = "";
        }
    }
}

function showTodoList(role) {
    let todos;
    let dialogue;
    if (role === 'チーフ') {
        dialogue = "チーフさん、お疲れ様です！今日のToDoリストをお知らせします：";
        todos = ['スタッフのシフト確認', '広告商品の点検', '清掃、売り場点検', '在庫整理'];
    } else if (role === 'パート') {
        dialogue = "パートさん、こんにちは！今日のToDoリストはこちらです：";
        todos = ['商品陳列補充', '発注点検', '清掃', '期限チェック'];
    }

    document.getElementById("dialogue-content").innerText = dialogue;

    let todoHtml = "<ul>";
    for (let todo of todos) {
        todoHtml += `<li>${todo}</li>`;
    }
    todoHtml += "</ul>";
    document.getElementById("todo-list").innerHTML = todoHtml;
}
```

コード３行目の
```

 <img id="character-image" src="your_image.png" alt="アシスタントキャラクター" />
 
 ```
この`your_image.png`の部分が自分の使いたい画像を登録する部分です。名前は必ず**ファイルと同じ名前にして**おいてください。

また、
 ```
const URL = "https://teachablemachine.withgoogle.com/models/1WEs92J8P/";
let model, webcam, maxPredictions;
 ```
 のcountURLの部分には、先ほどメモしておいた自分の作ったTeachable MachineのURLを登録します。


## おねえさんが相手を判別して仕事を指示してくれる！!



![スクリーンショット 2024-06-27 11.48.15.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3779323/8d61ffef-82df-6101-9b9c-f117af78cec8.png)

実際に動かしてみると、私を認識して今日の仕事を教えてくれました！

![スクリーンショット 2024-06-27 11.50.39.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3779323/ee479e36-c8c7-d889-ae9d-3442b0b613cf.png)

パートさんに実際に立ってもらってみると、ちゃんと認識してる様子！
最低限パートさんにやってもらいたいTodoも表示されてるので、抜け漏れ防止になりそうです！



（※制服で認識させてしまっているので隠さざるをえなくてこんな形になってしまいましたが本当に認識しています！）

## 今後のおねえさんのアプデ予定

　実際パートさんに触ってもらってみて、出た案が以下です。
 
・従業員一人一人を認識させて、個別の指示を出せるようにしてほしい
　→今は社員とパートの区分だが、ひとりひとりにあわせたタスク管理ができるといいかも！

・パソコンじゃなくてスマホでできるようにして欲しい
→モバイルアプリとして実装できるか試してみる？