Datasets:
id stringlengths 23 23 | split stringclasses 1
value | system_prompt stringclasses 2
values | user_prompt stringlengths 100 669 | assistant_answer stringlengths 87 453 | image_1 imagewidth (px) 392 560 | image_2 imagewidth (px) 392 476 | difficulty stringclasses 0
values | metadata_json stringclasses 1
value |
|---|---|---|---|---|---|---|---|---|
validation_2step_030888 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "알림 화면에서 '취소하기' 버튼을 클릭한다.", "last_action": "click", "expected_result": "1. 개통 신청 취소 확인 팝업이 표시된다.\n - '개통 신청을 취소하시겠어요?' 문구 표시\n - [취소] [확인] 버튼 표시\n - [확인] 버튼 비활성화 표시"} | {"verdict": "fail", "justification": "1. ✅개통 신청 취소 확인 팝업이 표시되었습니다.\n - ✅'개통 신청을 취소하시겠어요?' 문구가 표시되었습니다.\n - ✅[취소] [확인] 버튼이 표시되었습니다.\n - ❌[확인] 버튼이 비활성화되지 않고 활성화 상태로 표시되었습니다."} | null | {} | ||
validation_2step_068705 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Sort & Filter screen, scroll down the filter options list to find the 'Wifi Included' amenity.", "last_action": "scroll", "expected_result": "1. The screen scrolls down to reveal the full 'Amenities' section.\n - Multiple amenity options including 'Kitchen', 'Parking', and 'Spa' are displayed in a gr... | {"verdict": "pass", "justification": "1. ✅현재화면이 아래로 스크롤되어 'Amenities' 섹션 전체가 표시되었습니다.\n - ✅'Kitchen', 'Parking', 'Spa' 등 다양한 편의시설 옵션이 그리드 형태로 표시되었습니다.\n - ✅목록 하단에 'Star rating' 섹션 헤더가 표시되었습니다."} | null | {} | ||
validation_2step_016028 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "이용약관 목록에서 '위치기반 서비스 이용약관' 항목을 선택한다.", "last_action": "click", "expected_result": "1. 확인 팝업이 사라진다. - '위치기반 서비스 이용약관에 동의하시겠습니까?' 문구 표시 - [취소] [확인] 버튼 표시"} | {"verdict": "fail", "justification": "1. ❌ 확인 팝업이 사라지지 않고 화면에 계속 표시되었습니다.\n - ✅ '위치기반 서비스 이용약관에 동의하시겠습니까?' 문구가 표시되었습니다.\n - ✅ [취소], [확인] 버튼이 표시되었습니다."} | null | {} | ||
validation_2step_056529 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the item detail screen, click the 'BLUE' option in the color selection popup to select the blue color for the product.", "last_action": "click", "expected_result": "1. Verify that the color selection popup closes.\n2. Confirm that the product information is updated as follows:\n - Main image displays the... | {"verdict": "fail", "justification": "1. ✅ 색상 선택 팝업이 닫혔음을 확인하였습니다.\n2. ❌ 제품 정보가 다음과 같이 업데이트되었음을 확인하였습니다.\n - ✅ 메인 이미지가 제품의 파란색 버전으로 표시되었습니다.\n - ❌ 'Colour' 선택 필드에 'BLUE' 문구는 표시되나 'Clear' 버튼은 표시되지 않았습니다.\n - ✅ 우측 상단의 이미지 인덱스가 '21 of 44'로 업데이트되었습니다."} | null | {} | ||
validation_2step_058623 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the email forwarding screen in Gmail, enter 'manager@example.com' in the recipient field to specify the recipient of the email.", "last_action": "input", "expected_result": "1. Verify that the input email address is correctly displayed in the recipient field\n2. Confirm that the [Add contact] suggestion l... | {"verdict": "fail", "justification": "1. ✅수신자 필드에 입력된 이메일 주소가 정확히 표시되었습니다.\n2. ❌입력 영역 하단에 [Add contact] 제안 목록 대신 'Add recipient'가 표시되었습니다.\n3. ✅제안된 항목에 일치하는 이메일 주소와 사용자 아이콘이 정상적으로 표시되었습니다."} | null | {} | ||
validation_2step_050143 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the workout creator screen, click the equipment selection field showing 'No equipment' to select the available gear for the session.", "last_action": "click", "expected_result": "1. The 'YOUR EQUIPMENT' screen is displayed.\n - 'POPULAR SET-UPS' and 'FREE WEIGHTS' sections are visible.\n - Equipment lis... | {"verdict": "pass", "justification": "1. ✅현재 화면에 'YOUR EQUIPMENT' 화면이 표시되었습니다.\n - ✅'POPULAR SET-UPS' 및 'FREE WEIGHTS' 섹션이 노출되었습니다.\n - ✅장비 목록(Dumbbell, Kettlebell)과 선택용 체크박스가 제공되었습니다.\n - ✅화면 하단에 [SAVE] 버튼이 표시되었습니다."} | null | {} | ||
validation_2step_047259 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "1.'영어를 처음 배워요' 클릭", "last_action": "click", "expected_result": "답변 항목 선택 및 계속하기 버튼이 활성화되어 노출됨\n- 선택된 답변 항목과 하단 계속하기 버튼이 노출됨"} | {"verdict": "pass", "justification": "✅답변 항목('영어를 처음 배워요')이 선택되고 [계속하기] 버튼이 활성화되어 노출되었습니다.\n- ✅선택된 답변 항목('영어를 처음 배워요')과 하단 [계속하기] 버튼이 노출되었습니다."} | null | {} | ||
validation_2step_067820 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Item screen, scroll down the item details area to find the 'About this seller' section to save the seller 'lindac229 (1984)' and check their rating.", "last_action": "scroll", "expected_result": "1. Verify that the screen scrolls down to display additional information sections.\n2. Confirm that [Shop ... | {"verdict": "pass", "justification": "1. ✅화면이 아래로 스크롤되어 추가 정보 섹션([Shop with confidence], [Financing])들이 표시되었습니다.\n2. ✅[Shop with confidence]와 [About this seller] (lindac229 (1984)) 섹션이 노출되었습니다.\n3. ✅[Seller's other items] 및 [Contact seller] 버튼이 정상적으로 표시되었습니다.\n4. ✅[Financing] 섹션과 관련 결제 정보(PayPal CREDIT)가 화면 하단에 나타났습니다.... | null | {} | ||
validation_2step_066433 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the drop-off location search screen, press the Enter key at the bottom-right of the keyboard to confirm 'ORY' as the search term.", "last_action": "click", "expected_result": "1. Verify that the search input screen is closed and the Cars screen is displayed.\n2. Confirm that the selected location is refle... | {"verdict": "pass", "justification": "1. ✅검색 입력 화면이 닫히고 'Cars' 화면이 표시되었습니다.\n2. ✅선택한 위치('Paris (ORY-Orly)')가 'Drop-off' 필드에 반영되었습니다.\n3. ✅예약 상세 정보('Pick-up date', 'Drop-off date' 등)와 [Search] 버튼이 화면에 표시되었습니다."} | null | {} | ||
validation_2step_029630 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "설정 화면에서 '이용약관' 항목을 터치한다.", "last_action": "click", "expected_result": "1. '서비스 이용약관 동의' 화면이 표시된다.\n - 헤더 영역에 '서비스 이용약관 동의', 공유 버튼 문구 표시\n - 'U+우리집지킴이 서비스 이용약관' 문구 표시"} | {"verdict": "fail", "justification": "1. ✅ '서비스 이용약관 동의' 화면이 표시되었습니다.\n - ❌ 헤더 영역에 '서비스 이용약관 동의' 문구는 표시되었으나, 공유 버튼 문구는 표시되지 않았습니다.\n - ✅ 'U+우리집지킴이 서비스 이용약관' 문구가 표시되었습니다."} | null | {} | ||
validation_2step_020193 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "차량 점검 메뉴에서 '차량 점검' 항목을 선택한다.", "last_action": "click", "expected_result": "1. '차량 점검 상세' 화면이 표시된다.\n - 헤더 영역에 이전 (<) 버튼과 '차량 점검 상세' 문구가 표시된다.\n - '엔진 오일 (정상)', '조명 (주의)', '12V 배터리 (주의)' 등 차량 점검 항목과 각 상태가 표시된다."} | {"verdict": "fail", "justification": "1. ✅ '차량 점검 상세' 화면이 표시되었습니다.\n - ✅ 헤더 영역에 이전 (<) 버튼과 '차량 점검 상세' 문구가 표시되었습니다.\n - ❌ '조명 (주의)', '12V 배터리 (주의)' 등은 일치하나, '엔진 오일' 항목이 기대 결과인 '정상'이 아닌 '부족' 상태로 표시되었습니다."} | null | {} | ||
validation_2step_044121 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "설정 화면에서 '주식/투자' 체크박스를 터치한다.", "last_action": "click", "expected_result": "조직/특자 항목의 라디오 버튼이 선택 상태로 변경되는지 확인"} | {"verdict": "fail", "justification": "❌조직/특자 항목의 라디오 버튼이 선택 상태로 변경되지 않고, '주식/투자' 항목의 선택이 해제되었습니다."} | null | {} | ||
validation_2step_069526 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Millennium Hotel Paris Charles de Gaulle detail screen, click the 'See all rooms' button to view the list of available rooms.", "last_action": "click", "expected_result": "1. The room selection screen should be displayed showing available room categories.\n2. A Filter section containing 'Pay later' an... | {"verdict": "pass", "justification": "1. ✅이용 가능한 객실 카테고리('Club Double Room')를 보여주는 객실 선택 화면이 표시되었습니다.\n2. ✅상단에 'Pay later' 및 'Free cancellation' 옵션이 포함된 Filter 섹션이 나타났습니다.\n3. ✅객실 유형('Club Double Room'), 가격('HK$ 754') 및 [Book] 버튼을 포함한 상세 객실 정보가 표시되었습니다.\n4. ✅화면 하단에 'Lock down the price!' 정보 배너가 표시되었습니다."} | null | {} | ||
validation_2step_026041 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "선호 채널 목록에서 JTBC 채널 로고를 터치한다.", "last_action": "click", "expected_result": "1. 상단에 표시되던 \"청소년 관람 불가\" 문구가 사라짐을 확인한다.\n2. \"JTBC\" 채널의 \"협상의 기술 스페셜 (5회)\" 프로그램 정보가 노출됨을 확인한다.\n3. 프로그램명 옆에 \"공유\" 아이콘이 표시됨을 확인한다."} | {"verdict": "fail", "justification": "1. ✅상단에 표시되던 \"청소년 관람 불가\" 문구가 사라졌습니다.\n2. ✅\"JTBC\" 채널의 \"협상의 기술 스페셜 (5회)\" 프로그램 정보가 노출되었습니다.\n3. ❌프로그램명 옆에 \"공유\" 아이콘이 표시되지 않았습니다."} | null | {} | ||
validation_2step_027451 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "예약 화면에서 \"예약하기\" 버튼을 클릭한다.", "last_action": "click", "expected_result": "1. '결제하기' 화면으로 전환된다.\n - 헤더 영역에 '결제하기' 문구 표시\n - 상품명 '[STG] 우리만의 호수, 라라랜드 마당' 및 '우리만의 호수, 라라랜드 마당' 문구 표시\n2. '선택 상품 안내' 영역이 표시된다.\n - 입실 시간 '21:00' 표시\n - 퇴실 시간 '22:00' 표시"} | {"verdict": "fail", "justification": "1. ✅ '결제하기' 화면으로 전환되었습니다.\n - ✅ 헤더 영역에 '결제하기' 문구가 표시되었습니다.\n - ✅ 상품명 '[STG] 우리만의 호수, 라라랜드 마당' 및 '우리만의 호수, 라라랜드 마당' 문구가 표시되었습니다.\n2. ✅ '선택 상품 안내' 영역이 표시되었습니다.\n - ✅ 입실 시간 '21:00'이 표시되었습니다.\n - ❌ 퇴실 시간이 기대 결과인 '22:00'이 아닌 '23:00'으로 표시되었습니다."} | null | {} | ||
validation_2step_014877 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "일정 목록에서 일정 항목의 '삭제' 버튼을 터치한다.", "last_action": "click", "expected_result": "1. '삭제' 버튼 터치 시 '확인' 팝업이 출력되어야 한다.\n - '이번 일정을 삭제하시겠습니까?' 메시지가 표시되어야 한다.\n - '[아니오]' 및 '[예]' 버튼이 제공되어야 한다."} | {"verdict": "pass", "justification": "1. ✅'삭제' 버튼 터치 시 '확인' 팝업이 출력되었습니다.\n - ✅'이번 일정을 삭제하시겠습니까?' 메시지가 표시되었습니다.\n - ✅'[아니오]' 및 '[예]' 버튼이 제공되었습니다."} | null | {} | ||
validation_2step_086878 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "Click the Archive icon in the top right toolbar on the email detail screen.", "last_action": "click", "expected_result": "The email is archived and the search results for 'authentication' are displayed."} | {"verdict": "fail", "justification": "❌이메일('Weee! Automated message...')이 아카이브되지 않고 'Inbox' 라벨이 표시된 상태로 유지되었으며, 'authentication' 대신 'verification' 검색 결과가 표시되었습니다."} | null | {} | ||
validation_2step_008738 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "위험 문자 탐지 설정 화면에서 '안전' 항목을 터치한다.", "last_action": "click", "expected_result": "1. \"조회 설정\" 팝업이 닫히고 \"최근 기록\" 탭의 \"위험 문자 탐지\" 화면이 표시되는 것을 확인\n2. 화면에 \"위험\", \"주의\", \"스팸\" 등 탐지 결과에 따라 분류된 문자 메시지 목록이 노출되는 것을 확인\n3. 목록 내 \"주의\" 뱃지가 있는 문자 메시지가 정상적으로 표시되는 것을 확인"} | {"verdict": "pass", "justification": "1. ✅ \"조회 설정\" 팝업이 닫히고 \"최근 기록\" 탭의 \"위험 문자 탐지\" 화면이 표시되었습니다.\n2. ✅ 화면에 \"위험\", \"주의\", \"스팸\" 등 탐지 결과에 따라 분류된 문자 메시지 목록이 노출되었습니다.\n3. ✅ 목록 내 \"주의\" 뱃지가 있는 문자 메시지가 정상적으로 표시되었습니다."} | null | {} | ||
validation_2step_054345 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "1.Click 'Planned' on the Microsoft To Do main screen.\n2.Click the 'Overdue' button on the Planned screen.\n3.Click 'This week (19 - 25 Jun)' in the filter menu on the Planned screen.", "last_action": "click", "expected_result": "The tasks for this week are displayed on the Planned screen."} | {"verdict": "pass", "justification": "✅The tasks for this week ('Practice coding', 'Weekly report') are displayed on the Planned screen."} | null | {} | ||
validation_2step_055349 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Waze destination search screen, enter 'East Village' in the 'Where to?' search bar to find the location.", "last_action": "input", "expected_result": "1. The input text is removed from the search field and the [X] clear button is hidden.\n2. A list of recent search history is displayed below the searc... | {"verdict": "fail", "justification": "1. ❌ 검색 필드에서 입력된 텍스트('East Village')가 제거되지 않았으며 [X] 삭제 버튼이 여전히 노출되고 있습니다.\n2. ❌ 검색창 하단에 최근 검색 기록 대신 입력어에 대한 검색 결과 목록('East Village', 'East Village Pizza')이 표시되었습니다.\n3. ❌ 각 결과 항목에 장소 이름과 주소 정보는 포함되어 있으나, 예상 소요 시간 대신 거리 정보('7.5 km', '7.3 km')가 표시되었습니다."} | null | {} | ||
validation_2step_017288 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "움직임, 소리 감지 녹화 설정 페이지에서 '소리 감지' 토글 버튼을 탭한다.", "last_action": "click", "expected_result": "1. '움직임, 소리 감지 녹화 설정' 화면에서 [소리 감지] 토글 선택 시, 토글이 ON으로 변경되는지 확인\n - 메인 화면으로 돌아갔을 때, [우리집 기기] 영역 내 [맘카] 기기 카드에 '움직임 감지 중' 문구가 표시되는지 확인"} | {"verdict": "fail", "justification": "1. ✅ '움직임, 소리 감지 녹화 설정' 화면에서 [소리 감지] 토글 선택 시, 토글이 ON으로 변경되었습니다.\n - ❌ 메인 화면으로 돌아갔을 때, [우리집 기기] 영역 내 [맘카] 기기 카드에 '움직임 감지 중' 문구 대신 '움직임, 소리 감지 중' 문구가 표시되었습니다."} | null | {} | ||
validation_2step_034126 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "테스트로그인 화면에서 고객번호를 입력하기 위해 '고객번호 또는 회원번호를 입력하세요' 입력 필드를 클릭합니다.", "last_action": "click", "expected_result": "1. [고객번호 또는 회원번호를 입...] 입력 필드 터치 시 입력 포커스가 활성화되는지 확인\n2. 입력 필드 하단에 강조 표시가 나타나며 입력 가능 상태로 변경되는지 확인\n3. 화면 하단에서 숫자 키패드가 정상적으로 호출되는지 확인"} | {"verdict": "pass", "justification": "1. ✅ [고객번호 또는 회원번호를 입...] 입력 필드 터치 시 입력 포커스가 활성화된 것을 확인하였습니다.\n2. ✅ 입력 필드 하단에 파란색 강조 표시가 나타나며 입력 가능 상태로 변경된 것을 확인하였습니다.\n3. ✅ 화면 하단에서 숫자(1, 2, 3) 키패드가 정상적으로 호출되는 것을 확인하였습니다."} | null | {} | ||
validation_2step_059054 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the TodayTix app home screen, click on the 'Black Couples Therapy' show card to view more details about the performance.", "last_action": "click", "expected_result": "1. The detail information screen of the selected performance is displayed.\n - Top area: Back (<) button, favorite icon, share icon displa... | {"verdict": "fail", "justification": "1. ✅선택한 공연의 상세 정보 화면이 표시되었습니다.\n - ✅상단 영역: 뒤로 가기(<) 버튼, 즐겨찾기 아이콘, 공유 아이콘이 표시되었습니다.\n - ✅공연 제목('Black Couples Therapy'), 카테고리 정보, 상세 설명 텍스트가 표시되었습니다.\n - ❌'Info / Location' 탭 메뉴 대신 'Info / Venue' 탭 메뉴가 표시되었습니다.\n - ❌하단 영역: 가격 정보와 [Buy tickets] 버튼 대신 [Get tickets] 버튼이 표시되었습니다."} | null | {} | ||
validation_2step_072090 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the article screen, scroll down the article content area to read the politics article titled 'Will winning a confidence vote be enough to save Yousaf?' to the end.", "last_action": "scroll", "expected_result": "1. The screen scrolls down to reveal new content.\n - Additional article text and 'Newscast' s... | {"verdict": "pass", "justification": "1. ✅현재화면이 아래로 스크롤되어 기사 하단부('To put it more bluntly...')와 같은 새로운 콘텐츠가 노출되었습니다.\n - ✅추가적인 기사 본문('The answer...')과 'Newscast' 섹션('Newscast - WhatSNPpening...')이 표시되었습니다.\n - ✅화면 최하단에 'ADVERTISEMENT' 문구와 광고 배너 영역이 표시되었습니다."} | null | {} | ||
validation_2step_002089 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "테스트 버튼 목록 화면에서 '현황 테스트 버튼' 영역의 이미지를 터치한다.", "last_action": "click", "expected_result": "1. 상단 우측의 기기 아이콘 터치 시, 화면 전환 없이 현재 화면이 유지되어야 한다."} | {"verdict": "pass", "justification": "1. ✅상단 우측의 기기 아이콘 터치 시, 화면 전환 없이 현재 화면이 유지되었습니다."} | null | {} | ||
validation_2step_056352 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Teams management screen, click the back arrow button in the top left corner to return to the main dashboard after following the Philadelphia 76ers.", "last_action": "click", "expected_result": "1. The TEAMS screen should close and navigate to the NBA Discover main screen.\n2. The NBA logo, user profil... | {"verdict": "pass", "justification": "1. ✅'TEAMS' 화면이 닫히고 NBA Discover 메인 화면(NBA 로고 표시)으로 이동하였습니다.\n2. ✅현재 화면 상단에 'NBA' 로고, 사용자 프로필 아이콘 및 공유(Cast) 아이콘이 표시되었습니다.\n3. ✅화면 상단에 파란색 배경의 'NBA LEAGUE PASS' 구독 정보 배너가 표시되었습니다.\n4. ✅'AROUND THE LEAGUE' 섹션 내에 'Watch', 'NBA Play', 'Teams' 등 메뉴 리스트가 제공되었습니다.\n5. ✅하단 탭 바의 'Discover'... | null | {} | ||
validation_2step_049557 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Sephora home screen, scroll down the main content area to find the 'New Arrivals' section.", "last_action": "scroll", "expected_result": "1. 화면을 아래로 스크롤 시 하단의 신규 섹션들이 노출되어야 한다.\n2. 'Recommended For You' 영역에 추천 상품 목록이 정상적으로 표시되어야 한다.\n3. 'New Arrivals' 섹션이 노출되며, 상품 이미지와 'View More' 링크가 제공되어야 한다."} | {"verdict": "pass", "justification": "1. ✅화면을 아래로 스크롤 시 하단의 신규 섹션('Recommended For You', 'New Arrivals')들이 노출되었습니다.\n2. ✅'Recommended For You' 영역에 추천 상품 목록('ZOEVA 317 Wing Liner Brush', 'ZOEVA 238 Detail Smoky Liner Brush')이 정상적으로 표시되었습니다.\n3. ✅'New Arrivals' 섹션이 노출되며, 상품 이미지와 'View More >' 링크가 제공되었습니다."} | null | {} | ||
validation_2step_087592 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "Click the 'Select Payment' section on the 'REVIEW PURCHASE' screen.", "last_action": "click", "expected_result": "The Select Payment screen is dismissed and the Review Purchase screen is displayed, where all available payment methods through to the final option, Ethereum, can be seen."} | {"verdict": "fail", "justification": "❌'SELECT PAYMENT' 화면이 닫히고 'REVIEW PURCHASE' 화면이 표시되는 대신 'SELECT PAYMENT' 화면이 나타났으며, 해당 화면에서 마지막 옵션인 'Ethereum'을 포함한 결제 수단(Bitcoin, Ethereum)들이 표시되었습니다."} | null | {} | ||
validation_2step_055423 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the calendar date selection screen, click the number 5 in the July 2024 calendar to select the check-in date for the hotel stay.", "last_action": "click", "expected_result": "1. The selected date (5th) in the calendar must be changed to an active state.\n2. The start date in the top date display area must... | {"verdict": "fail", "justification": "1. ✅현재 화면의 캘린더 내 선택한 날짜(5일)가 활성화 상태(파란색 원형)로 변경되었습니다.\n2. ✅상단 날짜 표시 영역의 시작 날짜가 'Fri, Jul 5'로 업데이트되었습니다.\n3. ❌종료 날짜 영역에 'End date' 문구와 입력 대기 상태(파란색 밑줄)는 표시되었으나, 'Reset' 아이콘은 노출되지 않았습니다."} | null | {} | ||
validation_2step_049399 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the task detail screen for 'take medicine', click the 'Delete' button at the top right to remove the current task.", "last_action": "click", "expected_result": "1. 'Delete repeating task' confirmation popup is displayed.\n - 'Are you sure you want to delete all past and future occurrences of this task?' ... | {"verdict": "pass", "justification": "1. ✅ 'Delete repeating task' 확인 팝업이 현재화면에 표시되었습니다.\n - ✅ 'Are you sure you want to delete all past and future occurrences of this task?' 문구가 표시되었습니다.\n - ✅ [Cancel] 및 [Delete all] 버튼이 표시되었습니다."} | null | {} | ||
validation_2step_017575 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "스마트홈 스피커 작동되지 않아요. 스마트홈 스피커 화면이 안 떠요. 기기가 뭘 확인 상태로 만들어요. 하는지 알려주세요. 문구가 있는 안내 페이지에서 해당 문구를 터치한다.", "last_action": "click", "expected_result": "1. 상세 질문 화면이 표시된다.\n - 헤더 영역에 '자주 하는 질문' 문구가 표시된다.\n - '집에 있는 와이파이 공유기를 교체했습니다. 스마트홈 스피커와 새로운 와이파이를 어떻게 연결하나요?' 질문 문구가 표시된다.\n - 답변 내용 중 '① 기존 와이파이 정보 확인하기' 문구가 표시... | {"verdict": "fail", "justification": "1. ✅ 상세 질문 화면이 표시되었습니다.\n - ✅ 헤더 영역에 '자주하는 질문' 문구가 표시되었습니다.\n - ✅ '집에 있는 와이파이 공유기를 교체했습니다. 스마트홈 스피커와 새로운 와이파이를 어떻게 연결하나요?' 질문 문구가 표시되었습니다.\n - ❌ 답변 내용 중 '① 기존 와이파이 정보 확인하기' 문구 대신 '① 기존 와이파이 정보 삭제하기' 문구가 표시되었습니다."} | null | {} | ||
validation_2step_055738 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the search filters screen, click the blue 'Done' button in the top right corner to apply the selected search filters.", "last_action": "click", "expected_result": "1. When clicking the [Done] button, the filter conditions should be reset and the screen should remain on the search filters menu.\n2. At the ... | {"verdict": "fail", "justification": "1. ❌ [Done] 버튼 클릭 시 필터 조건이 초기화되며 검색 필터 메뉴에 머무르지 않고 'Search' 결과 화면으로 이동하였습니다.\n2. ❌ 화면 상단에 'Search for [search term]' 문구 대신 'Results for nvidia' 문구가 표시되었습니다.\n3. ❌ 'Edit filters' 메뉴 대신 'View filters'와 'Clear Filters' 메뉴가 표시되었습니다.\n4. ❌ 필터 조건을 무시하는 대신 이전 화면에서 선택한 'Questions' 필터가 반영된 ... | null | {} | ||
validation_2step_086575 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the LIGHTSPEED podcast channel screen, click on the episode titled 'Rich Larson | Limping Toward Sunrise' from 'Apr 25' to view its details.", "last_action": "click", "expected_result": "1. The detail screen for the selected episode should be displayed.\n2. The episode title 'Rich Larson | Limping Toward ... | {"verdict": "pass", "justification": "1. ✅현재화면에 선택한 에피소드의 상세 화면이 표시되었습니다.\n2. ✅에피소드 제목 'Rich Larson | Limping Toward Sunrise'와 날짜 'Apr 25'가 표시되었습니다.\n3. ✅파일 크기(28 MB)가 포함된 [Download] 버튼과 빨간색 [재생] 버튼이 제공되었습니다.\n4. ✅상단에 [Add to Playlist], [Star], [Share] 등 액션 아이콘들이 표시되었습니다.\n5. ✅'Show Notes' 섹션과 'Lester swung his chainsa... | null | {} | ||
validation_2step_036552 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "홈 화면에서 '즐겨찾기 바로가기' 목록의 '편집' 버튼을 터치한다.", "last_action": "click", "expected_result": "즐겨찾기 편집 화면으로 이동하며, 기존 즐겨찾기 목록과 추가/삭제 버튼이 표시되어야 합니다."} | {"verdict": "fail", "justification": "- ❌즐겨찾기 편집 화면 대신 '시간 설정' 화면으로 이동하였으며, 기존 즐겨찾기 목록과 추가/삭제 버튼 대신 시간 설정 팝업(오전 09시 02분, [취소], [설정])이 표시되었습니다."} | null | {} | ||
validation_2step_004964 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "메인 화면 하단의 'Control' 탭을 터치한다.", "last_action": "click", "expected_result": "1. 하단 내비게이션 바의 'Control' 아이콘 터치 시 '제어' 화면으로 전환되어야 한다.\n 1-1. 상단에 '총 주행거리' 정보가 표시되어야 한다.\n 1-2. 중앙에 차량 제어 버튼들과 차량 이미지가 표시되어야 한다.\n 1-3. 하단에 '차량 리모컨' 및 '공조 설정' UI가 표시되어야 한다."} | {"verdict": "pass", "justification": "1. ✅하단 내비게이션 바의 'Control' 아이콘 터치 시 '제어' 화면으로 전환되었습니다.\n1-1. ✅상단에 '총 주행거리' 정보('999+km')가 표시되었습니다.\n1-2. ✅중앙에 차량 제어 버튼들과 차량 이미지가 표시되었습니다.\n1-3. ✅하단에 '차량 리모컨' 및 '공조 설정' UI가 표시되었습니다."} | null | {} | ||
validation_2step_016343 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "설정 화면에서 공지사항 메뉴를 터치한다.", "last_action": "click", "expected_result": "1. '설정' 화면에서 '공지사항' 메뉴 터치 시 '고객센터' 화면으로 전환되는지 확인\n2. 화면 상단에 '고객센터' 타이틀이 표시되는지 확인\n3. '공지사항' 내용 중 '[이벤트]' 텍스트와 안내 문구가 표시되는지 확인"} | {"verdict": "fail", "justification": "1. ❌'설정' 화면에서 '공지사항' 메뉴 터치 시 '고객센터' 화면이 아닌 '공지사항' 화면으로 전환되었습니다.\n2. ❌화면 상단에 '고객센터' 타이틀 대신 '공지사항' 타이틀이 표시되었습니다.\n3. ❌'공지사항' 내용 중 '[이벤트]' 텍스트와 안내 문구 대신 '[가이드] 답답에서 일기 이렇게 써보세요' 문구가 표시되었습니다."} | null | {} | ||
validation_2step_024917 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "메인 화면에서 필터 메뉴 아이콘을 터치한다.", "last_action": "click", "expected_result": "1. '조회 설정' 팝업이 닫히고 이전 화면으로 복귀한다.\n - 헤더 영역에 '조회 설정' 문구와 [닫기] 버튼이 표시된다.\n - '전체' 체크박스가 표시되며, 체크된 상태로 확인된다.\n - '탐지 결과' 및 '탐지 항목' 영역이 표시된다."} | {"verdict": "fail", "justification": "1. ❌ '조회 설정' 팝업이 닫히고 이전 화면으로 복귀해야 하나, 실제로는 팝업이 닫히지 않고 화면에 표시되었습니다.\n - ✅ 헤더 영역에 '조회 설정' 문구와 [닫기] 버튼이 표시되었습니다.\n - ✅ '전체' 체크박스가 표시되며, 체크된 상태로 확인되었습니다.\n - ✅ '탐지 결과' 및 '탐지 항목' 영역이 표시되었습니다."} | null | {} | ||
validation_2step_086395 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the 'Meeting schedule' email detail screen, click 'Add to Tasks' in the more options menu to create a task from the current email.", "last_action": "click", "expected_result": "1. Verify that the snackbar notification is dismissed from the bottom of the screen\n - Check if the confirmation message \"Task... | {"verdict": "fail", "justification": "1. ✅현재화면 하단에 스낵바 알림이 표시되었습니다.\n - ❌확인 메시지 'Task added to list' 대신 'New task created' 문구가 표시되었습니다.\n - ❌[Open] 버튼 대신 [View] 버튼이 표시되었습니다."} | null | {} | ||
validation_2step_087229 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "Click the 'OK' button on the 'Move to folder...' popup in the AquaMail app.", "last_action": "click", "expected_result": "A notification appears confirming that the message has been moved to the Inbox, featuring a 'Close' button."} | {"verdict": "fail", "justification": "❌현재 화면에 메시지가 Inbox로 이동되었음을 확인하는 알림('1 message moved to Inbox')이 나타났으나, 'Close' 버튼 대신 되돌리기 아이콘이 표시되었습니다."} | null | {} | ||
validation_2step_074912 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the SHEIN main screen, click the '洋裝' category icon to browse the selection of dresses.", "last_action": "click", "expected_result": "1. Navigation to the '洋裝' category page is completed\n2. Top header displays the title '洋裝' along with Back, Search, and Wishlist icons\n3. Sub-category list (Shirt, A Line... | {"verdict": "pass", "justification": "1. ✅'洋裝' 카테고리 페이지로의 이동이 완료되었습니다.\n2. ✅상단 헤더에 타이틀 '洋裝'과 함께 뒤로가기, 검색, 위시리스트 아이콘이 표시되었습니다.\n3. ✅서브 카테고리 목록(Shirt, A Line 등)과 필터 옵션(Recommend, Price, Filter)이 표시되었습니다.\n4. ✅가격 정보(HK$89.00, HK$139.00)와 리뷰 수((500+), (100+))가 포함된 상품 목록이 화면에 로드되었습니다."} | null | {} | ||
validation_2step_024809 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "개인정보 수집 동의 항목에서 '개인정보 수집 동의' 버튼을 클릭한다.", "last_action": "click", "expected_result": "1. '개인정보 수집 동의' 상세 화면이 표시된다.\n - 헤더 영역에 이전 (<) 버튼이 표시된다.\n - '개인정보 수집 동의' 문구가 표시된다.\n - 하단에 [확인] 버튼이 표시된다."} | {"verdict": "fail", "justification": "1. ✅ '개인정보 수집 동의' 상세 화면이 표시되었습니다.\n - ✅ 헤더 영역에 이전 (<) 버튼이 표시되었습니다.\n - ✅ '개인정보 수집 동의' 문구가 표시되었습니다.\n - ❌ 하단에 [확인] 버튼 대신 [동의] 버튼이 표시되었습니다."} | null | {} | ||
validation_2step_066744 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Sports category screen, click on the 'Pardon My Take' podcast to view its available episodes.", "last_action": "click", "expected_result": "1. The detail screen for the selected podcast ('Pardon My Take') should be displayed.\n2. The podcast artwork and the total number of episodes should be visible.\... | {"verdict": "pass", "justification": "1. ✅선택한 팟캐스트('Pardon My Take')의 상세 화면이 표시되었습니다.\n2. ✅팟캐스트 아트워크('Pardon My Take' 이미지)와 총 에피소드 수('870 Episodes')가 표시되었습니다.\n3. ✅[Subscribe] 버튼과 날짜('Apr 24', 'Apr 22') 및 제목('NBA With Kirk Goldsberry...', 'NFL Draft With Todd McShay...')이 포함된 에피소드 목록이 제공되었습니다."} | null | {} | ||
validation_2step_045530 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "영상 재생 화면에서 일시정지 아이콘을 터치한다.", "last_action": "click", "expected_result": "1. '맘카 영상보기' 섹션 내 영상 플레이어가 재생 상태로 전환되는지 확인\n 2. 영상 중앙에 일시정지 아이콘 대신 재생 아이콘이 표시되는지 확인"} | {"verdict": "fail", "justification": "1. ❌'맘카 영상보기' 섹션 내 영상 플레이어가 재생 상태로 전환되지 않고 일시정지 상태로 전환된 것으로 확인됩니다.\n2. ✅영상 중앙에 일시정지 아이콘(||) 대신 재생 아이콘(▶)이 표시되었습니다."} | null | {} | ||
validation_2step_069040 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the MyObservatory main weather screen, click the Dr. Tin chatbot icon at the top left to open the chat interface.", "last_action": "click", "expected_result": "1. 'Dr. Tin' chatbot window is displayed.\n - Header displays 'Dr. Tin' title, a refresh button, and a close button.\n - Greeting text and a num... | {"verdict": "pass", "justification": "1. ✅ 'Dr. Tin' 챗봇 창이 표시되었습니다.\n - ✅ 헤더에 'Dr. Tin' 타이틀, 새로고침 버튼, 닫기 버튼이 표시되었습니다.\n - ✅ 인사말(\"Hello! I am Dr. Tin...\") 및 번호가 매겨진 정보 주제 목록(1~7번)이 표시되었습니다.\n2. ✅ 화면 하단에 소프트웨어 키보드가 활성화되었습니다."} | null | {} | ||
validation_2step_065180 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the IKEA app home screen, click the search bar at the top to begin searching for items.", "last_action": "click", "expected_result": "1. The Search screen should be displayed.\n2. A search input field with 'What are you looking for?' placeholder should be provided.\n3. 'Popular search' and 'Recently searc... | {"verdict": "pass", "justification": "1. ✅현재화면에 검색(Search) 화면이 표시되었습니다.\n2. ✅'What are you looking for?' 플레이스홀더가 포함된 검색 입력 필드가 제공되었습니다.\n3. ✅'Popular search'(chair, sofa) 및 'Recently searched'(Furniture, Curtains) 영역이 키워드 태그와 함께 표시되었습니다.\n4. ✅[Clear] 버튼이 표시되었으며, 가상 키보드가 활성화되었습니다."} | null | {} | ||
validation_2step_037550 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "메시지 입력창에 전화번호를 입력한다.", "last_action": "input", "expected_result": "메시지 목록 화면에 입력한 전화번호를 포함하는 메시지 항목이 표시되어야 합니다."} | {"verdict": "fail", "justification": "- ❌메시지 목록 화면 대신 '탐지 상세 (JK)' 화면이 표시되었으며, 입력한 전화번호를 포함하는 메시지 항목 대신 '전화번호 4건 [위험]' 분석 결과와 '주의가 필요한 URL이에요.' 팝업이 표시되었습니다."} | null | {} | ||
validation_2step_060309 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "Scroll up the calendar view to locate May 14, 2024, to select the departure date.", "last_action": "scroll", "expected_result": "1. Scroll action on the calendar area updates the list to display later months.\n2. Confirm that the calendar data for previous periods (July, August) is loaded and displayed.\n3. ... | {"verdict": "fail", "justification": "1. ❌스크롤 동작 시 캘린더 영역에 이후 달이 아닌 이전 달(JULY 2024, AUGUST 2024)이 표시되었습니다.\n2. ✅이전 기간인 7월(JULY 2024) 및 8월(AUGUST 2024)의 캘린더 데이터가 로드되어 표시됨을 확인하였습니다.\n3. ❌[RETURN DATE] 탭 아래의 초록색 인디케이터 라인이 [DEPARTURE DATE] 탭 아래에 유지되고 있음을 확인하였습니다."} | null | {} | ||
validation_2step_047643 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "1.'다양한 주제에 대해 이야기할 수 있어요' 항목 클릭", "last_action": "click", "expected_result": "학습 수준 선택 항목의 변경 상태가 노출된다.\n- '대부분의 주제에 대해 상세하게 토론할 수 있어요'가 활성화되어 노출된다.\n- '기본적인 대화를 할 수 있어요'가 비활성화되어 노출된다."} | {"verdict": "fail", "justification": "✅학습 수준 선택 항목의 변경 상태(현재화면에서 '다양한 주제에 대해 이야기할 수 있어요' 선택됨)가 노출되었습니다.\n- ❌'대부분의 주제에 대해 상세하게 토론할 수 있어요' 대신 '다양한 주제에 대해 이야기할 수 있어요'가 활성화되어 노출되었습니다.\n- ✅'기본적인 대화를 할 수 있어요'가 비활성화되어 노출되었습니다."} | null | {} | ||
validation_2step_014548 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "전화번호 입력 화면에서 전화번호 입력 필드에 전화번호를 입력한다.", "last_action": "input", "expected_result": "1. 휴대폰 번호 입력 항목에 '010 - 7353 - 8786'이 표시된다.\n2. [다음] 버튼이 활성화된다."} | {"verdict": "pass", "justification": "1. ✅휴대폰 번호 입력 항목에 '010 - 7353 - 8786'이 표시되었습니다.\n2. ✅[다음] 버튼이 활성화되었습니다."} | null | {} | ||
validation_2step_073240 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the subscription screen, click the 'X' button in the top-left corner to close the advertisement.", "last_action": "click", "expected_result": "1. The subscription offer screen is closed and the 'Exercises' screen is displayed.\n2. The exercise list screen is configured with the following elements:\n - Ti... | {"verdict": "pass", "justification": "1. ✅이전화면의 구독 제안 화면이 닫히고 현재화면에 'Exercises' 화면이 표시되었습니다.\n2. ✅현재화면의 운동 목록 화면은 다음 요소들로 구성되어 표시되었습니다:\n - ✅타이틀 헤더('Exercises')\n - ✅신체 부위 카테고리 목록(Abs, Back 등)\n - ✅하단 내비게이션 메뉴(Exercises, Plans, Log, More)"} | null | {} | ||
validation_2step_063660 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the 'Sort & Filter' screen, click the 'Best discount (%)' option under the 'SORT BY:' section to sort the hotel search results by discount percentage.", "last_action": "click", "expected_result": "1. 'Best discount (%)' option is selected in the SORT BY list.\n - Radio button for 'Best discount (%)' is a... | {"verdict": "pass", "justification": "1. ✅현재화면의 'SORT BY' 목록에서 'Best discount (%)' 옵션이 선택되었습니다.\n - ✅'Best discount (%)' 항목의 라디오 버튼이 활성화되었습니다.\n - ✅하단 [Show results] 버튼에 아이템 개수(Show 2235 of 2235 results)가 표시되었습니다."} | null | {} | ||
validation_2step_068353 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the 'My cart' screen, click the 'Remove' button for 'Green Onion 1 bunch' to delete the item from the shopping cart.", "last_action": "click", "expected_result": "1. Confirm that the selected item is removed from the cart list.\n2. The total items count and total price in the delivery section are updated.... | {"verdict": "pass", "justification": "1. ✅이전화면에 표시되던 선택 항목('Green Onion 1 bunch')이 현재화면의 장바구니 목록에서 삭제되었습니다.\n2. ✅배송 섹션의 총 항목 수('30 items' -> '28 items')와 총 가격('$109.70' -> '$108.32')이 정상적으로 업데이트되었습니다.\n3. ✅화면 하단의 Subtotal 금액('$109.68' -> '$108.30')이 항목 삭제에 따라 업데이트되었습니다."} | null | {} | ||
validation_2step_034635 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "전체계좌 화면의 다른금융 탭에서 '집' 계좌의 관리 메뉴를 열기 위해 계좌 우측의 더보기 버튼을 클릭합니다.", "last_action": "click", "expected_result": "1. 선택한 계좌의 상세 관리 바텀시트가 화면 하단에 노출된다.\n2. 바텀시트 상단 영역에 계좌 별명(집), 은행명(회원수협) 및 계좌번호가 표시된다.\n3. 하단 메뉴 리스트에 다음 항목들이 순서대로 노출된다.\n - 이체\n - 계좌번호 공유\n - 계좌별명 변경\n - 연결 해지"} | {"verdict": "fail", "justification": "1. ✅선택한 계좌의 상세 관리 바텀시트가 화면 하단에 노출되었습니다.\n2. ✅바텀시트 상단 영역에 계좌 별명(집), 은행명(회원수협) 및 계좌번호(206800000076)가 표시되었습니다.\n3. ❌하단 메뉴 리스트에 다음 항목들이 순서대로 노출되지 않았으며, '계좌번호 공유' 대신 '계좌번호 복사'가 포함된 리스트가 노출되었습니다.\n - ✅이체\n - ❌계좌번호 공유\n - ✅계좌별명 변경\n - ✅연결 해지"} | null | {} | ||
validation_2step_040023 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "지도 화면에서 '맛집로드' 탭을 터치한다.", "last_action": "click", "expected_result": "맛집로드 검색 결과 화면으로 이동하며, 검색 결과 목록과 함께 서울 송파구 지역의 맛집 정보가 표시되어야 합니다."} | {"verdict": "fail", "justification": "- ❌현재 화면에서 맛집로드 검색 결과 화면 대신 주유소 검색 결과 화면으로 이동하였으며, 검색 결과 목록에 서울 송파구 지역의 맛집 정보 대신 주유소 정보('훼미리주유소셀프 (GS)', '가든파이브주유소셀프 (GS)')가 표시되었습니다."} | null | {} | ||
validation_2step_053314 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the search results screen for 'Art' events, click the 'Filters' button to access filter options for narrowing down the event list.", "last_action": "click", "expected_result": "1. The Filters screen should be displayed.\n - 'Categories', 'Event type', and 'Languages' sections should provide various filte... | {"verdict": "pass", "justification": "1. ✅ 'Filters' 화면이 표시되었습니다.\n - ✅ 'Categories'(Music, Business), 'Event type'(Conference, Seminar), 'Languages'(English, German) 섹션에 다양한 필터 칩이 제공되었습니다.\n - ✅ 'Only free events' 토글 스위치와 'Sort by' 선택 버튼(Relevance, Date)이 제공되었습니다.\n - ✅ 화면 하단에 [Apply filters] 버튼이 표시되었습니다."} | null | {} | ||
validation_2step_073544 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Browse screen, click the 'Search for shows, creators or tags' search bar to search for a show.", "last_action": "click", "expected_result": "1. Search input field should be focused with a cursor displayed.\n2. System software keyboard must be visible at the bottom of the screen to allow text entry."} | {"verdict": "pass", "justification": "1. ✅'Search for shows, creators or tags' 검색 입력 필드에 포커스가 맞춰지며 커서가 표시되었습니다.\n2. ✅화면 하단에 텍스트 입력을 위한 시스템 소프트웨어 키보드가 나타났습니다."} | null | {} | ||
validation_2step_073265 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "Click on 'River Thames Sightseeing Cruise - One Way' with a 5.0 rating on the 'Cruise' search results screen.", "last_action": "click", "expected_result": "The detail page of the selected cruise event is displayed."} | {"verdict": "pass", "justification": "✅선택한 크루즈 이벤트('River Thames Sightseeing Cruise - One Way')의 상세 페이지가 표시되었습니다."} | null | {} | ||
validation_2step_039123 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "사용 이력 메뉴를 클릭한다.", "last_action": "click", "expected_result": "사용 이력 페이지가 표시되며, 최근 1개월 이내의 사용 내역 목록과 각 내역의 상세 정보(날짜, 시간, 내용)가 표시되어야 합니다."} | {"verdict": "fail", "justification": "❌사용 이력 페이지가 표시되지 않고 이전 화면인 '테스트 버튼봇' 화면이 현재 화면에서도 그대로 유지되어, 최근 1개월 이내의 사용 내역 목록과 각 내역의 상세 정보(날짜, 시간, 내용)가 표시되지 않아 확인할 수 없습니다."} | null | {} | ||
validation_2step_057072 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Cricket news screen, click the Scores & Fixtures tab to view cricket scores and scheduled matches.", "last_action": "click", "expected_result": "1. The screen returns to 'Latest News' and the 'Cricket' title is displayed at the top.\n2. An input window ('Enter a player name') to search for players sho... | {"verdict": "fail", "justification": "1. ❌현재 화면이 'Latest News'로 돌아가지 않고 'Scores & Fixtures' 화면으로 전환되었으며, 상단에 'Cricket' 대신 'Cricket Scores & Fixtures' 타이틀이 표시되었습니다.\n2. ❌선수 검색을 위한 입력창('Enter a player name') 대신 'Enter a team or competition' 문구의 입력창이 노출되었습니다.\n3. ❌날짜 선택 바가 제공되나 'WED 24 APR' 항목 대신 'TODAY 25 APR' 항목이 활성화되었습... | null | {} | ||
validation_2step_013540 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "메인 화면에서 '설정하기' 버튼을 터치한다.", "last_action": "click", "expected_result": "1. '동시' 탭이 활성화되어야 한다.\n - '동시실행으로 한 번에 알림을 꺼보세요' 문구와 동시실행 관련 내용이 화면에 출력되어야 한다.\n - 하단에 '설정하기' 버튼이 정상적으로 표시되어야 한다."} | {"verdict": "pass", "justification": "1. ✅ '동시' 탭이 활성화되었습니다.\n - ✅ '동시실행으로 한 번에 알림을 꺼보세요' 문구와 '동시실행을 사용하면 한번에 모든 알림을 끌 수 있어요' 문구가 화면에 출력되었습니다.\n - ✅ 하단에 '설정하기' 버튼이 정상적으로 표시되었습니다."} | null | {} | ||
validation_2step_074315 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the search screen, click 'joe rogan' from the hot search list to view relevant podcast results.", "last_action": "click", "expected_result": "1. Search input field updates to display the selected keyword \"joe rogan\"\n2. Category tabs (SHOWS, AUDIOBOOKS, EPISODES, NETWORKS) are displayed at the top\n3. A... | {"verdict": "pass", "justification": "1. ✅현재 화면 상단의 검색 입력 필드에 선택한 키워드인 'joe rogan'이 표시되었습니다.\n2. ✅화면 상단에 카테고리 탭('SHOWS', 'AUDIOBOOKS', 'EPISODES', 'NETWORKS')이 정상적으로 노출되었습니다.\n3. ✅키워드와 일치하는 검색 결과 목록에 제목('The Joe Rogan Experience', 'Joe Rogan Experience Review podcast')과 제작자 이름('Joe Rogan')이 포함되어 나타납니다."} | null | {} | ||
validation_2step_053623 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the New event screen, click the OK button on the time picker dialog to set the end time of the meeting to 5:00 PM.", "last_action": "click", "expected_result": "1. 시간 설정 팝업에서 [OK] 버튼 클릭 시 'There's a time limit' 안내 팝업이 출력되어야 한다.\n2. 안내 팝업 내에 현재 요금제에 따른 회의 시간 제한 관련 안내 문구가 노출되어야 한다.\n3. 팝업 하단에 [OK] 버튼이 정상적으로... | {"verdict": "pass", "justification": "1. ✅현재 화면에서 시간 설정 팝업의 [OK] 버튼 클릭 시 'There's a time limit' 안내 팝업이 정상적으로 출력되었습니다.\n2. ✅안내 팝업 내에 현재 요금제에 따른 회의 시간 제한 관련 안내 문구('With your current Teams plan, you get 60 minutes per meeting.')가 노출되었습니다.\n3. ✅팝업 하단에 [OK] 버튼이 정상적으로 제공되었습니다."} | null | {} | ||
validation_2step_016944 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "U+ Shop 앱의 상품 상세 페이지에서 오른쪽 상단의 닫기 버튼을 터치한다.", "last_action": "click", "expected_result": "1. 상단 우측 아이콘 터치 시 '마이 페이지' 화면으로 전환됨을 확인한다.\n - 사용자 닉네임 및 로그인 ID가 표시됨.\n - '로그인 관리' 버튼이 노출됨.\n - 'U+ SHOP 바로가기' 카드가 표시됨.\n - '기기 관리' 영역에 '기기 체크' 메뉴가 노출됨을 확인한다."} | {"verdict": "fail", "justification": "1. ✅ 상단 우측 아이콘 터치 시 '마이 페이지' 화면으로 전환되었습니다.\n - ✅ 사용자 닉네임('안랩테스트님') 및 로그인 ID('id1597@gmail.com')가 표시되었습니다.\n - ✅ '로그인 관리' 버튼이 노출되었습니다.\n - ✅ 'U+ SHOP 바로가기' 카드가 표시되었습니다.\n - ❌ '기기 관리' 영역에 '기기 체크' 메뉴 대신 '기기 등록', '기기 해제' 메뉴가 노출되었습니다."} | null | {} | ||
validation_2step_088058 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the dress category screen, click the 'Recommend' dropdown menu to change the sorting order of the items.", "last_action": "click", "expected_result": "1. Verify that the sorting dropdown menu is collapsed and the display returns to the product listing.\n - Sorting options: Recommend, New Arrivals, Top Ra... | {"verdict": "fail", "justification": "1. ❌정렬 드롭다운 메뉴가 접히지 않고 확장되어 표시되어 현재화면이 상품 목록으로 완전히 돌아가지 않았습니다.\n - ✅정렬 옵션(Recommend, New Arrivals, Top Rated)이 목록에 표시되었습니다.\n - ✅현재 선택된 옵션(Recommend)에 체크 표시가 확인되었습니다."} | null | {} | ||
validation_2step_042806 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "업/다운로드 진행 목록 화면에서 닫기 버튼을 터치한다.", "last_action": "click", "expected_result": "1. '업/다운로드 진행 목록' 화면이 닫히고 '공유테스트폴더' 화면이 표시된다.\n - 상단 헤더에 '공유테스트폴더' 문구 표시\n - 하단 내비게이션 바가 표시되며, '폴더' 아이콘이 강조되어 나타난다."} | {"verdict": "pass", "justification": "1. ✅'업/다운로드 진행 목록' 화면이 닫히고 '공유테스트폴더' 화면이 표시되었습니다.\n - ✅상단 헤더에 '공유테스트폴더' 문구가 표시되었습니다.\n - ✅하단 내비게이션 바가 표시되며, '폴더' 아이콘이 강조되어 나타났습니다."} | null | {} | ||
validation_2step_031227 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "월별 메시지함 화면 하단의 폴더 아이콘을 터치한다.", "last_action": "click", "expected_result": "1. '폴더' 화면으로 전환되며, '내폴더', '게스트폴더', '공유폴더', '즐겨찾기', '삭제폴더' 항목이 표시되어야 한다.\n 1-1. 최상단에 '내폴더' 항목이 노출되어야 한다."} | {"verdict": "fail", "justification": "1. ❌ '폴더' 화면으로 전환되었으나 '내폴더', '게스트폴더', '공유폴더', '즐겨찾기' 항목만 표시되었고 '삭제폴더' 항목은 표시되지 않았습니다.\n1-1. ✅ 최상단에 '내폴더' 항목이 노출되었습니다."} | null | {} | ||
validation_2step_054083 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the WhatsApp main screen, click the 'Calls' tab at the bottom right to access the call history and initiate a new call.", "last_action": "click", "expected_result": "1. The screen transitions to the 'Calls' tab.\n - 'Calls' header, camera, and search icons are displayed at the top\n - 'Create call link'... | {"verdict": "pass", "justification": "1. ✅현재 화면이 'Calls' 탭으로 전환되었습니다.\n - ✅상단에 'Calls' 헤더, 카메라 및 검색 아이콘이 표시되었습니다.\n - ✅'Create call link' 메뉴와 'Recent' 통화 목록(Bob, Project)이 표시되었습니다.\n - ✅하단 탐색 바에서 'Calls' 탭이 강조되어 선택된 상태로 표시되었습니다."} | null | {} | ||
validation_2step_015806 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "자동실행 설정하기 화면에서 '실행 동작' 추가를 탭한다.", "last_action": "click", "expected_result": "1. 화면 타이틀이 '실행 동작'으로 변경되어야 한다.\n2. '실행 동작' 설정 화면이 표시되어야 한다.\n 2-1. 상단에 '전체', '내 방' 탭이 제공되어야 한다.\n 2-2. '내가 설정한 수동실행'을 포함한 다양한 동작 항목들이 목록으로 출력되어야 한다."} | {"verdict": "fail", "justification": "1. ✅ 화면 타이틀이 '실행 동작'으로 변경되었습니다.\n2. ✅ '실행 동작' 설정 화면이 표시되었습니다.\n 2-1. ✅ 상단에 '전체', '내 방' 탭이 제공되었습니다.\n 2-2. ❌ '내가 설정한 수동실행' 항목이 목록에 표시되지 않았으며, 대신 '내가 설정한 자동실행', '내가 설정한 동시실행' 등 다양한 동작 항목들이 목록으로 출력되었습니다."} | null | {} | ||
validation_2step_067487 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Sephora app search screen, enter 'face mask' into the 'What are you looking for?' search input field to find related products.", "last_action": "input", "expected_result": "1. Verify the input text is displayed in the search bar and a clear button appears\n2. Ensure the [Products] list is displayed sh... | {"verdict": "pass", "justification": "1. ✅현재화면 검색창에 입력한 텍스트 'face mask'가 표시되었으며 우측에 지우기 버튼(X)이 나타났습니다.\n2. ✅[Products] 목록에 관련 상품('Fiber Face Masks', 'Rose Face Mask')과 상품 정보(가격, 별점)가 표시되었습니다.\n3. ✅검색 결과 하단에 [View All Results] 버튼이 표시되었습니다."} | null | {} | ||
validation_2step_068063 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Reminder tab of the Google Tasks app, click the '+' button to start adding a new task.", "last_action": "click", "expected_result": "1. The task creation interface is displayed on the screen.\n - The 'New task' input field is visible.\n - The system software keyboard is automatically activated at th... | {"verdict": "fail", "justification": "1. ❌할 일 생성 인터페이스가 현재 화면에 표시되지 않았습니다.\n - ❌'New task' 입력 필드가 표시되지 않았습니다.\n - ✅시스템 소프트웨어 키보드가 현재 화면 하단에 자동으로 활성화되었습니다."} | null | {} | ||
validation_2step_004420 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "청약서 화면에서 '청약서' 버튼을 터치한다.", "last_action": "click", "expected_result": "1. '청약서' 선택 시 OZViewer 화면으로 이동함을 확인한다.\n - 화면 상단에 'OZViewer' 타이틀이 표시된다.\n - '계약사항' 문서를 확인할 수 있다."} | {"verdict": "pass", "justification": "1. ✅'청약서' 선택 시 OZViewer 화면으로 이동함을 확인하였습니다.\n - ✅화면 상단에 'OZViewer' 타이틀이 표시되었습니다.\n - ✅'계약사항' 문서를 확인할 수 있습니다."} | null | {} | ||
validation_2step_044495 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "검색 결과 목록에서 검색 결과 항목 중 하나를 선택합니다.", "last_action": "click", "expected_result": "1. 'T-world' 매장 상세 페이지로 진입되어야 한다.\n - 상단에 'T world SKT 대리점' 매장명이 표시되어야 한다.\n - '전화 번호' 및 '주소' 항목에 해당 매장의 정보가 출력되어야 한다.\n - 특히 주소는 '서울특별시 강남구 논현로 5-1'로 정확히 표시되어야 한다."} | {"verdict": "fail", "justification": "1. ✅'T-world' 매장 상세 페이지(현재화면)로 진입되었습니다.\n - ✅상단에 'T world SKT 대리점' 매장명이 표시되었습니다.\n - ✅'전화 번호'(02-501-5544) 및 '주소'(서울특별시 강남구 논현로 511) 항목에 해당 매장의 정보가 출력되었습니다.\n - ❌특히 주소는 '서울특별시 강남구 논현로 5-1' 대신 '서울특별시 강남구 논현로 511'로 표시되었습니다."} | null | {} | ||
validation_2step_020810 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "키워드 관리 화면에서 '확인' 버튼을 터치한다.", "last_action": "click", "expected_result": "1. 확인 팝업이 닫히고, 키워드 목록이 비어있는 화면으로 전환된다.\n - '새로운 키워드를 등록하세요' 문구 표시"} | {"verdict": "fail", "justification": "1. ✅확인 팝업이 닫히고, 키워드 목록이 비어있는 화면으로 전환되었습니다.\n - ❌'새로운 키워드를 등록하세요' 문구 대신 '등록된 키워드가 없습니다' 문구가 표시되었습니다."} | null | {} | ||
validation_2step_076265 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the search results screen for 'outdoor table', click the filter icon at the top right to refine the search results.", "last_action": "click", "expected_result": "1. The 'Filters' menu appears with a Back button.\n2. Filter categories such as Price and New products [x] are shown.\n3. Room, Product category... | {"verdict": "fail", "justification": "1. ❌'Filters' 메뉴가 나타났으나 Back 버튼 대신 'X' 아이콘이 표시되었습니다.\n2. ✅Price 및 New products 필터 카테고리와 체크박스가 표시되었습니다.\n3. ✅Room, Product type, Offers 옵션이 목록에 나열되었습니다.\n4. ✅Availability 및 Specifications 섹션이 제공되었습니다.\n5. ❌하단에 'Apply' 버튼은 표시되었으나 'Reset' 버튼 대신 'Clear' 버튼이 표시되었습니다."} | null | {} | ||
validation_2step_044226 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "팝업에서 '차단등록' 버튼을 터치한다.", "last_action": "click", "expected_result": "1. \"차단\" 버튼 선택 시 번호 평가 화면으로 전환되며, 화면 상단에 \"쿠팡-8926 번호 평가\" 문구가 표시되는지 확인\n2. 평가 유형 목록 내 \"중고 사기\", \"스미싱\" 버튼과 함께 \"기타유형스팸\" 버튼이 표시되는지 확인\n3. 특히, \"기타유형스팸\" 버튼이 선택 가능한 상태로 강조되어 있는지 확인"} | {"verdict": "fail", "justification": "1. ❌'차단' 버튼 선택 시 번호 평가 화면으로 전환되며, 화면 상단에 '쿠팡 9-8926 번호 평가' 문구가 표시되었습니다.\n2. ✅평가 유형 목록 내 '중고 사기', '스미싱' 버튼과 함께 '기타유형스팸' 버튼이 표시되었습니다.\n3. ❌'기타유형스팸' 버튼이 선택 가능한 상태로 강조되어 있지 않고, 다른 버튼과 동일한 기본 상태로 표시되었습니다."} | null | {} | ||
validation_2step_000127 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "감지 시간 설정 화면에서 취소 버튼을 터치한다.", "last_action": "click", "expected_result": "1. '시작 시간' 팝업이 닫히고 '감지 시간' 화면이 정상적으로 출력되어야 한다."} | {"verdict": "pass", "justification": "1. ✅ '시작 시간' 팝업이 닫히고 '감지 시간' 화면이 정상적으로 출력되었습니다."} | null | {} | ||
validation_2step_022968 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "통합 번호 관리 화면에서 탭 형태의 메뉴에서 왼쪽으로 스와이프 한다.", "last_action": "swipe", "expected_result": "1. '신고번호' 탭이 비활성화된다.\n - '신고번호 2/2' 문구가 표시된다.\n - 신고 번호 목록이 표시된다."} | {"verdict": "fail", "justification": "1. ❌ '신고번호' 탭이 비활성화되지 않고 활성화되었습니다.\n - ✅ '신고번호 2/2' 문구가 표시되었습니다.\n - ✅ 신고 번호 목록('[후후위키] 여론조사', '자동화테스트_상호114')이 표시되었습니다."} | null | {} | ||
validation_2step_031664 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "커뮤니티 개설 화면에서 '활동 상세 내용' 입력창의 키보드를 닫는다.", "last_action": "click", "expected_result": "1. '활동 상세 내용' 입력 필드에 '고객증는모임' 텍스트가 표시되어야 하며, 우측에 '초기화' 버튼이 표시되어야 한다.\n 1-1. 키보드가 닫히고, '커뮤니티 활동 동의' 섹션이 화면에 노출되어야 한다."} | {"verdict": "fail", "justification": "1. ❌'활동 상세 내용' 입력 필드에 '고객증는모임' 대신 '조개증는모임' 텍스트가 표시되었으며, 우측에 '초기화' 버튼이 표시되지 않았습니다.\n1-1. ✅키보드가 닫히고, '커뮤니티 활동 동의' 섹션이 화면에 노출되었습니다."} | null | {} | ||
validation_2step_017926 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "조건 모드 변경 화면에서 '삭제' 버튼을 터치한다.", "last_action": "click", "expected_result": "1. '조건 모드' 삭제 완료 토스트 메시지가 화면 하단에 표시된다.\n - '조건 모드가 수정되었습니다.' 문구 표시\n2. '조건' 탭 화면으로 전환되며, '조건 모드 만들기' 화면이 표시된다."} | {"verdict": "fail", "justification": "1. ✅ '조건 모드' 삭제 완료 토스트 메시지가 화면 하단에 표시되었습니다.\n - ❌ '조건 모드가 수정되었습니다.' 문구 대신 '조건 모드가 삭제 되었습니다.' 문구가 표시되었습니다.\n2. ✅ '조건' 탭 화면으로 전환되며, '조건 모드 만들기' 버튼이 포함된 '조건 모드 만들기' 화면이 정상적으로 표시되었습니다."} | null | {} | ||
validation_2step_000898 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "기기 목록 화면에서 '기기 등록' 메뉴를 선택한다.", "last_action": "click", "expected_result": "기기 등록 메뉴 선택 시 '기기 선택' 화면으로 전환되는지 확인\n 1. 화면 상단에 '기기 선택' 제목과 '등록할 기기를 선택해주세요.' 안내 문구가 표시되는지 확인\n 2. 등록 가능한 기기 목록이 표시되며, 목록 내 '에어센서' 항목이 정상적으로 노출되는지 확인"} | {"verdict": "pass", "justification": "✅기기 등록 메뉴 선택 시 '기기 선택' 화면으로 전환되었습니다.\n 1. ✅화면 상단에 '기기 선택' 제목과 '등록할 기기를 선택해주세요.' 안내 문구가 표시되었습니다.\n 2. ✅등록 가능한 기기 목록이 표시되며, 목록 내 '에어센서' 항목이 정상적으로 노출되었습니다."} | null | {} | ||
validation_2step_079214 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the All rooms search screen, click the '1 room 3 adults' selection bar to configure the guest and room details.", "last_action": "click", "expected_result": "1. 'Guest details' screen is displayed.\n - Header: 'Close (X)' button, 'Reset' button and 'Guest details' title displayed\n - 'Room', 'Adults', a... | {"verdict": "fail", "justification": "1. ✅ 'Guest details' 화면이 표시되었습니다.\n - ❌ 헤더에 'Close (X)' 버튼과 'Guest details' 타이틀은 표시되나 'Reset' 버튼은 표시되지 않았습니다.\n - ✅ 'Room', 'Adults', 'Children' 선택 항목과 수량 조절 버튼(+, -)이 표시되었습니다.\n - ✅ 화면 하단에 [OK] 버튼이 표시되었습니다."} | null | {} | ||
validation_2step_039180 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "공휴일 예약 편집 화면에서 시간 추가 버튼을 터치한다.", "last_action": "click", "expected_result": "시간 선택 팝업이 나타나며, 예약 추가 문구와 함께 시간 목록이 표시되어야 합니다."} | {"verdict": "fail", "justification": "❌현재 화면에서 시간 선택 팝업 대신 '펫토이' 화면이 표시되었으며, '예약 추가' 문구와 시간 목록은 표시되지 않았습니다."} | null | {} | ||
validation_2step_070994 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the tea search results screen, click on the 'Master Kong Iced Lemon Black Tea 500 ml' product to view its detailed information.", "last_action": "click", "expected_result": "1. Product detail page for 'Master Kong Iced Lemon Black Tea 500 ml' is displayed.\n - Product image, name, and price information a... | {"verdict": "pass", "justification": "1. ✅'Master Kong Iced Lemon Black Tea 500 ml' 제품 상세 페이지가 표시되었습니다.\n - ✅제품 이미지, 제품명('Master Kong Iced Lemon Black Tea 500 ml') 및 가격 정보('$0.79')가 표시되었습니다.\n - ✅할인 배지('20% off')와 판매량 정보('Weekly sold 1k+')가 확인됩니다.\n - ✅제품 옵션('8 Options') 및 설명 목록('Classic and loved by many' 등)이 표시되었습... | null | {} | ||
validation_2step_076633 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Kids & Family category screen, click on the 'Calm Parenting Podcast' list item to access its episode list and subscription options.", "last_action": "click", "expected_result": "1. The 'Show Info' screen is dismissed and the screen returns to 'Kids & Family'.\n - 'Calm Parenting Podcast' title and [S... | {"verdict": "fail", "justification": "1. ❌'Show Info' 화면이 종료되어 'Kids & Family' 화면으로 돌아가는 대신 'Show Info' 상세 화면이 표시되었습니다.\n - ✅'Calm Parenting Podcast' 제목과 [Subscribed] 버튼은 표시되었습니다.\n2. ✅'EPISODES', 'DETAILS', 'COMMENTS(4)' 탭이 표시되었습니다.\n3. ✅에피소드 개수(361 episodes)와 재생 아이콘이 포함된 에피소드 목록이 표시되었습니다."} | null | {} | ||
validation_2step_023576 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "노티스토리 설정 화면에서 '알림 키워드 설정' 메뉴를 터치한다.", "last_action": "click", "expected_result": "1. \"알림 키워드 설정\" 화면으로 전환되어야 한다.\n2. 화면 상단에 \"알림 키워드 설정\" 타이틀과 즐겨찾기 버튼과 \"키워드 등록\" 입력 필드가 표시되어야 한다.\n3. 화면 하단에 \"설정\" 버튼이 정상적으로 출력되어야 한다."} | {"verdict": "fail", "justification": "1. ✅ \"알림 키워드 설정\" 화면으로 전환되었습니다.\n2. ❌ 화면 상단에 \"알림 키워드 설정\" 타이틀과 \"키워드 등록\" 입력 필드는 표시되었으나, 즐겨찾기 버튼은 표시되지 않았습니다.\n3. ✅ 화면 하단에 \"설정\" 버튼이 정상적으로 출력되었습니다."} | null | {} | ||
validation_2step_044076 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "주간 안전 리포트 화면에서 뒤로가기 버튼을 터치한다.", "last_action": "click", "expected_result": "1. '주간 안전 리포트' 화면이 닫히고 메인 화면으로 전환됨을 확인한다.\n - '주소록 검사' 및 '위험 통화 검사' 항목 옆에 '검사 필요' 텍스트가 표시됨.\n - 화면 우측 하단에 '통화 검색' 플로팅 버튼이 노출됨을 확인한다."} | {"verdict": "fail", "justification": "1. ✅ '주간 안전 리포트' 화면이 닫히고 메인 화면('안녕하세요, vpapptest14님')으로 전환됨을 확인하였습니다.\n - ❌ '주소록 검사' 및 '위험 통화 검사' 항목 중 '주소록 검사' 대신 '악성앱 검사'가 노출되었으며, '위험 통화 검사'와 함께 '검사 필요' 텍스트가 표시되었습니다.\n - ❌ 화면 우측 하단에 '통화 검색' 대신 '통합 검색' 플로팅 버튼이 노출됨을 확인하였습니다."} | null | {} | ||
validation_2step_051607 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "On the Browse screen, scroll down the music category list to locate the 'Rock' music category.", "last_action": "scroll", "expected_result": "1. Verify that the Browse list updates to display new genre categories upon scrolling\\n * Confirm that additional items such as Garage (UKG), Hardcore, and Hip Hop a... | {"verdict": "pass", "justification": "1. ✅스크롤 동작에 따라 Browse 리스트가 업데이트되어 새로운 장르 카테고리가 표시되는 것을 확인하였습니다.\n * ✅추가 항목인 'Garage (UKG)', 'Hardcore', 'Hip Hop'이 현재 화면에 노출되었습니다.\n * ✅리스트 콘텐츠가 상단으로 스크롤되어 'House', 'Jazz'와 같은 다음 장르들이 정상적으로 나타났음을 확인하였습니다."} | null | {} | ||
validation_2step_085978 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "Click the 'ADD TO CART' button on the product selection popup.", "last_action": "click", "expected_result": "The item is removed from the cart and the cart icon count is decreased."} | {"verdict": "fail", "justification": "❌아이템이 장바구니에서 제거되는 대신 추가되었으며, 장바구니 아이콘 숫자(15에서 16으로)가 감소하는 대신 증가하였습니다."} | null | {} | ||
validation_2step_034962 | train | You are an expert SQA engineer. Analyze Before/After screenshots with test_case and determine if `expected_result` is met.
# Verdict
- **pass**: After satisfies ALL expected_result conditions
- **fail**: Any condition missing/incorrect
- **n/a**: Cannot determine from visual evidence
# Justification
- One sentence pe... | {"steps": "18. [삭제] 버튼 선택한다.", "last_action": "click", "expected_result": "1. '삭제된 댓글입니다' 문구 표시된다."} | {"verdict": "pass", "justification": "1. ✅현재 화면의 'hychae' 댓글 영역에 '삭제된 댓글입니다.' 문구가 표시되었습니다."} | null | {} |
End of preview. Expand in Data Studio
- Downloads last month
- 48