📘 Руководство по созданию сценариев тестирования¶
📌 Общие поведенческие правила (скриншоты, завершение процессов, поиск файлов, параметры инструментов) — в файле
Правила.MD(единый источник истины).
📋 Общие вводные¶
Подготовка к работе¶
⚠️ КРИТИЧЕСКИ ВАЖНО: Порядок действий является обязательным. Нарушение порядка приводит к ошибкам при создании сценариев.
- Получение информации из базы знаний
- ⚠️ Это должно быть выполнено ПЕРВЫМ действием после прочтения Instructions.md
- ⚠️ НЕЛЬЗЯ использовать другие форматы (short_info, questions_only и т.д.) перед загрузкой всей базы
- Загрузите всю базу знаний целиком и только так:
- При создании сценариев тестирования необходимо следовать рекомендациям из базы знаний.
- ❗ Типичная ошибка: Попытка сначала получить краткую информацию о базе знаний или часто используемые шаги перед полной загрузкой базы. Это приводит к тому, что сценарий создаётся без полного контекста.
-
❗ КРИТИЧЕСКИ ВАЖНО: После загрузки базы знаний (format=all) ОБЯЗАТЕЛЬНО проанализируйте полученное содержимое и примените рекомендации при создании сценария.
- Не просто загрузите базу знаний, но прочитайте и используйте содержащуюся в ней информацию
- Особое внимание уделите разделам, относящимся к создаваемому сценарию
-
Загрузка опыта предыдущей работы
- Прочитайте файл
Memory.MDдля загрузки накопленного опыта. -
⚠️ Важно: Этот шаг выполняется ПОСЛЕ загрузки базы знаний (шаг 1).
-
Используй результат анализа, который до тебя провёл исследователь
- Прочитайте файл
РезультатИсследования.MDи используй данные из него. - В этом файле есть данные о реквизитах форм клиента тестирования.
- В этом файле есть шаги сценария, которые были получены при записи действий исследователя.
- ⚠️ Важно: Этот шаг выполняется ПОСЛЕ загрузки базы знаний (шаг 1).
- Не нужно самому заниматься исследованием форм ещё раз, т.к. это уже сделал исследователь и описал результат работы в
РезультатИсследования.MD
- Прочитайте файл
-
Анализ часто используемых шагов
- ⚠️ Важно: Этот шаг выполняется ПОСЛЕ загрузки базы знаний (шаг 1).
- Получите информацию о наиболее часто используемых шагах с помощью
frequently_used_stepsс параметромlimit=100. - Старайтесь использовать эти шаги, когда это возможно.
🔧 Предварительные действия перед запуском сценария на выполнение¶
Обязательные шаги¶
| Шаг | Описание |
|---|---|
| 1 | Перед запуском сценария на выполнение вызывайте проверку синтаксиса |
| 2 | В начало сценария всегда добавляйте закрытие всех окон |
| 3 | Получите данные всего командного интерфейса через manage_command_interface для исследования кнопок панели разделов и панели функций |
Примечание: Инструмент
manage_command_interfaceвызывается с параметромaction=get_allПорядок исследования интерфейса: 1. Сначала получите панель разделов:
action=get_section_panel2. Для каждой кнопки панели разделов получите панель функций:action=get_function_panel3. Далее надо использовать инструментmanage_form_elements, чтобы "вручную" выполнить действия из будущего сценария. При этом нужно исследовать какие реквизиты есть в формах, какие у них типы. Чтобы потом было проще создать сценарий тестирования.Примечание: Для закрытия всех окон используйте шаг:
Категория:UI.Окна
Особенности работы с формами настроек¶
- ❌ В формах настроек нет кнопок
ЗаписатьиЗаписатьИЗакрыть - 🚩 Если флаг настройки не устанавливается с сообщением:
"Невидимый пользователю элемент управления не может выполнять интерактивные действия"
→ Необходимо добавить шаг, который разворачивает группу, в которой находится флаг:
или по имени группы:→ После разворачивания группы повторите установку флага.
Как проверять табличный документ в отчете¶
-
Запустите сценарий, чтобы он дошёл до формы отчета.
-
Сохраните табличный документ в файл с помощью инструмента
save_table_document_to_file: -
Сравните табличный документ с эталонным макетом, используя один из шагов:
Для сравнения всего документа:
Для сравнения по шаблону (с символами *):
Примечание: Макет ищется сначала в обработке фича-файла, затем в каталоге проекта. Если в ячейке эталона указан символ
*, такая ячейка не участвует в сравнении.
В начале сценария надо добавить пометку на удаление данных, которые были созданы предыдущими запусками сценария (идемпотентность).¶
Для этого:
- в начало сценария добавь группу * Подготовка;
- отметь её маркером // Очистка данных и/или добавь реальные шаги удаления создаваемых объектов, чтобы сценарий можно было перезапускать без дубликатов и ошибок автонумерации.
📝 Требования к сценарию¶
Структурные требования¶
✅ Должен получиться ОДИН сценарий
✅ Сценарий должен работать без ошибок и выполняться с начала и до конца через `run_scenario` (запуск выполняет пользователь вручную) и без использования инструмента `stop_scenario`.
❌ Если сценарий выполняется с ошибкой — вся задача считается невыполненной
Отладка сценария¶
⚠️ Ручной режим: без циклов запуска. Запуск сценария выполняет пользователь вручную (каждый прогон — отдельный запуск этого промпта). Агент НЕ выполняет автономные повторные запуски сценария в цикле (написать → запустить → исправить → снова запустить). Работа завершается однопроходной подготовкой: написать черновик → один раз проверить синтаксис (
check_syntax) → провести самопроверку по чек-листу → передать сценарий пользователю. При ошибках пользователь заново запускает этот промпт с текстом ошибки — агент исправляет и снова передаёт.
Указания ниже адресованы пользователю, который выполняет сценарий вручную (в т.ч. запуск с номера строки); агент эти запуски не выполняет.
Если во время выполнения сценария возникла ошибка связанная с тем, что не найден элемент формы (поле, кнопка, флаг и т.д) и ошибка будет исправляться тем, что в шаге будет заменено имя элемента формы, то в таком случае нельзя выполнять сценарий с самого начала, а надо выполнить сценарий с номера строки, в которой находится исправляемый шаг. Это связано с тем, что выполнять сценарий с самого начала при такой ошибке долго и нет смысла.
Если во время выполнения сценария возникла ошибка связанная с тем, что не получилось нажать на команду панели функций, то в таком случае после исправления шага нельзя выполнять сценарий с самого начала, а надо выполнить сценарий с номера строки, в которой находится исправляемый шаг. Это связано с тем, что выполнять сценарий с самого начала при такой ошибке долго и нет смысла.
Ограничения и разрешения¶
Требуется¶
- ✅ Использовать шаги из базы знаний.
- ✅ Использовать стандартные шаги Vanessa.
- ✅ Использовать комментарии для пояснения проверок (проверяющий шаг со сравнением значения обязателен).
- ✅ Расширение у feature файла должно быть
feature
Запрещено¶
- ❌ Подключать клиент тестирования, если он уже подключен и нет требований запускать клиент тестирования под разными пользователями.
- ❌ Использовать секцию Переменные.
- ❌ Подключать библиотеку шагов.
- ❌ Использовать Попытку/Исключение.
- ❌ Использовать секцию Контекст.
Форматирование проверок¶
Для каждой проверки из списка требований создавайте комментарий с полным именем проверки:
Важно: Если в требовании указано, что надо сделать проверку — убирать её нельзя. Комментарий — только пояснение к проверяющему шагу. Главное требование — наличие самих ПРОВЕРОК: для каждой проверки из задачи в feature должен быть содержательный проверяющий шаг (сравнение значения/факта: число, строка, дата, состояние, проводка и т.п.). Шаги навигации и ввода (например, «открылось окно», заполнение полей) проверками НЕ являются и их не заменяют: сценарий из одних таких шагов без проверок считается не выполненным.
📌 Покрытие требований задачи¶
Каждому пункту/проверке из ОписаниеЗадачи.md должен соответствовать шаг (действие или проверка) в feature-файле. Если шаг не автоматизируется — НЕ удаляй и НЕ подменяй его, а оформи вынос:
и зафиксируй обоснование. Сценарий с TODO или необоснованными выносами НЕ считается готовым.
📌 Самопроверка сценария перед завершением¶
Перед передачей сценария пользователю пройди по чек-листу (все пункты обязательны). Правила — из базы знаний Vanessa Automation; при сомнениях сверяйся с get_data_from_knowledge_base(format="all"):
- [ ] В feature есть
# language: ru, корректно оформленыФункционал:иСценарий: - [ ] Строковые параметры — в апострофах
'...' - [ ] Панель разделов + панель функций — ОДИН шаг:
И В командном интерфейсе я выбираю "Раздел" "Функция"(НЕ два шага «В панели разделов» + «В панели функций») - [ ] Символ
*в конце заголовка окна — без пробела:"Заявка (создание)*" - [ ] Окно списка — во множественном числе; форма создания — с суффиксом
(создание)* - [ ] Группы шагов — через
*(сворачиваются), а не#-комментариями - [ ] Завершение редактирования строки — только после заполнения последнего поля строки таблицы
- [ ] Кнопки искать по имени (
с именем 'X'), а не только по заголовку - [ ] После смены окон — ожидание открытия (
Тогда открылось окно "...") - [ ] В сценарии есть хотя бы одно
Тогда(содержательная проверка значения, а не только навигация) - [ ] В начале сценария есть «Я закрываю все окна клиентского приложения»
- [ ] Нет запрещённых шагов:
Пауза,Я подключаю TestClient,Выполнить произвольный код - [ ] Нет лишних шагов «я активизирую поле»
- [ ] Файл в кодировке UTF-8 без артефактов
🚨 Обработка ошибок¶
Алгоритм действий при ошибке¶
graph TD
A[Возникла ошибка при выполнении сценария] --> B[Сделать скриншот клиента тестирования]
B --> C[Сохранить скриншот в файл через get_window_screenshot_os]
C --> D[Прочитать файл скриншота через Read]
D --> E[Проанализировать скриншот с помощью ComputerVision]
E --> F[Исправить ошибку]
F --> G[Сценарий передан пользователю]
G --> H[Пользователь повторно запускает промпт с текстом ошибки]
H -->|Снова ошибка| A
H -->|Выполнено без ошибок| I[Перейти к «Успешному выполнению» / завершению]
Важно: «Повторный запуск сценария» на схеме выполняет пользователь вручную (заново запускает этот промпт с текстом ошибки). Агент автономно сценарий в цикле не перезапускает (см. «Ручной режим: без циклов запуска» выше).
Примечание: ComputerVision — это встроенная возможность AI-модели для анализа изображений. После чтения файла скриншота через
Readмодель автоматически проанализирует изображение с помощью своих возможностей компьютерного зрения. Если не получилось снять скриншот — надо остановить выполнение задачи и сообщить об этом пользователю:
-
Выполнить голосовое уведомление об ошибке:
-
Вывести подробное описание проблемы в лог.
-
Написать пользователю о возникшей проблеме с невозможностью снятия скриншота.
Критические ситуации¶
Если какой-то пункт из списка требований не удалось подготовить за 2 повторных запуска промпта пользователем (пользователь дважды вернул этот промпт с текстом ошибки, но сценарий всё ещё не готов):
Пояснение: После возникновения ошибки пользователь заново запускает этот промпт с текстом ошибки; агент исправляет сценарий и снова передаёт. Если после двух повторных запусков ошибка всё ещё возникает — это критическая ситуация.
-
Шаг 1: Выполнить голосовое уведомление:
-
Шаг 2: Вывести подробное описание проблемы в лог.
-
Шаг 3: Остановить выполнение задачи (агент останавливает выполнение самостоятельно).
-
Шаг 4: Написать пользователю, что требуется его вмешательство.
Важно: После голосового уведомления агент самостоятельно останавливает выполнение задачи. Не нужно ждать автоматической приостановки — агент должен явно прекратить выполнение после уведомления пользователя. Остановка в критической ситуации — задокументированное исключение из запрета на досрочное завершение задачи (см.
Правила.MD).
✅ Завершение работы¶
Успешное выполнение¶
Сценарий считается выполненным после успешного ручного запуска пользователем (run_scenario выполняет пользователь вручную) без ошибок. Голосовое уведомление об успешном прогоне:
После выполнения задачи¶
- 📚 Напиши, какие знания стоит добавить в базу знаний инструмента
get_data_from_knowledge_base
База знаний Vanessa Automation — универсальная база знаний, которая не привязана к конкретной конфигурации 1С. Содержит общие вопросы, подходы и паттерны тестирования.
Что записывать: алгоритмы работы с инструментами, общие паттерны написания тестов, типовые решения проблем, не зависящие от конкретной конфигурации.
- 💾 Сохрани и актуализируй важные знания в файл
Memory.MD, если их там ещё нет.
Memory.MD — знания, накопленные при написании тестов для конкретной конфигурации 1С (например, ERP).
Что записывать: особенности тестирования конкретных объектов конфигурации (справочники, документы, отчеты), специфичные для данной конфигурации шаги, известные проблемы и их решения в рамках этой конфигурации.
📌 Чек-лист проверки выполнения задачи¶
- [ ] База знаний загружена полностью (format=all)
- [ ] База знаний проанализирована и рекомендации применены
- [ ] Файл Memory.MD прочитан
- [ ] Получены данные о часто используемых шагах
- [ ] Получены данные командного интерфейса (панель разделов и функций)
- [ ] Получена информация по формам, которые будут участвовать в сценарии до того как сценарий написан.
- [ ] В начало сценария добавлено закрытие всех окон
- [ ] В начало сценария добавлена пометка на удаление данных, созданных предыдущими запусками
- [ ] Проверка синтаксиса выполнена
- [ ] Все проверки присутствуют как проверяющие шаги (комментарии — только пояснение)
- [ ] Сценарий представляет собой единое целое
- [ ] Покрытие требований задачи проверено (каждому пункту
ОписаниеЗадачи.mdсоответствует шаг или// ВЫНОСс обоснованием) - [ ] Отсутствуют запрещённые конструкции (Попытка/Исключение, секция Переменные)
- [ ] Сценарий полностью написан
- [ ] Сценарий передан пользователю; успешность прогона проверяется при его ручном запуске (повторном запуске промпта)
- [ ] Записаны новые знания в файл
Memory.MD - [ ] Пользователю написано, что следует изменить в базе знаний Vanessa Automation.