Перейти к содержанию

📘 Руководство по созданию сценариев тестирования

📌 Общие поведенческие правила (скриншоты, завершение процессов, поиск файлов, параметры инструментов) — в файле Правила.MD (единый источник истины).

📋 Общие вводные

Подготовка к работе

⚠️ КРИТИЧЕСКИ ВАЖНО: Порядок действий является обязательным. Нарушение порядка приводит к ошибкам при создании сценариев.

  1. Получение информации из базы знаний
  2. ⚠️ Это должно быть выполнено ПЕРВЫМ действием после прочтения Instructions.md
  3. ⚠️ НЕЛЬЗЯ использовать другие форматы (short_info, questions_only и т.д.) перед загрузкой всей базы
  4. Загрузите всю базу знаний целиком и только так:
    инструмент: get_data_from_knowledge_base
    параметр: format=all
    
  5. При создании сценариев тестирования необходимо следовать рекомендациям из базы знаний.
  6. Типичная ошибка: Попытка сначала получить краткую информацию о базе знаний или часто используемые шаги перед полной загрузкой базы. Это приводит к тому, что сценарий создаётся без полного контекста.
  7. КРИТИЧЕСКИ ВАЖНО: После загрузки базы знаний (format=all) ОБЯЗАТЕЛЬНО проанализируйте полученное содержимое и примените рекомендации при создании сценария.

    • Не просто загрузите базу знаний, но прочитайте и используйте содержащуюся в ней информацию
    • Особое внимание уделите разделам, относящимся к создаваемому сценарию
  8. Загрузка опыта предыдущей работы

  9. Прочитайте файл Memory.MD для загрузки накопленного опыта.
  10. ⚠️ Важно: Этот шаг выполняется ПОСЛЕ загрузки базы знаний (шаг 1).

  11. Используй результат анализа, который до тебя провёл исследователь

    • Прочитайте файл РезультатИсследования.MD и используй данные из него.
    • В этом файле есть данные о реквизитах форм клиента тестирования.
    • В этом файле есть шаги сценария, которые были получены при записи действий исследователя.
    • ⚠️ Важно: Этот шаг выполняется ПОСЛЕ загрузки базы знаний (шаг 1).
    • Не нужно самому заниматься исследованием форм ещё раз, т.к. это уже сделал исследователь и описал результат работы в РезультатИсследования.MD
  12. Анализ часто используемых шагов

  13. ⚠️ Важно: Этот шаг выполняется ПОСЛЕ загрузки базы знаний (шаг 1).
  14. Получите информацию о наиболее часто используемых шагах с помощью frequently_used_steps с параметром limit=100.
  15. Старайтесь использовать эти шаги, когда это возможно.

🔧 Предварительные действия перед запуском сценария на выполнение

Обязательные шаги

Шаг Описание
1 Перед запуском сценария на выполнение вызывайте проверку синтаксиса
2 В начало сценария всегда добавляйте закрытие всех окон
3 Получите данные всего командного интерфейса через manage_command_interface для исследования кнопок панели разделов и панели функций

Примечание: Инструмент manage_command_interface вызывается с параметром action=get_all

Порядок исследования интерфейса: 1. Сначала получите панель разделов: action=get_section_panel 2. Для каждой кнопки панели разделов получите панель функций: action=get_function_panel 3. Далее надо использовать инструмент manage_form_elements, чтобы "вручную" выполнить действия из будущего сценария. При этом нужно исследовать какие реквизиты есть в формах, какие у них типы. Чтобы потом было проще создать сценарий тестирования.

Примечание: Для закрытия всех окон используйте шаг:

И я закрываю все окна клиентского приложения
Категория: UI.Окна

Особенности работы с формами настроек

  • ❌ В формах настроек нет кнопок Записать и ЗаписатьИЗакрыть
  • 🚩 Если флаг настройки не устанавливается с сообщением:

    "Невидимый пользователю элемент управления не может выполнять интерактивные действия"

→ Необходимо добавить шаг, который разворачивает группу, в которой находится флаг:

И я разворачиваю группу "Заголовок группы"
или по имени группы:
И я разворачиваю группу с именем 'ИмяГруппы'

→ После разворачивания группы повторите установку флага.

Как проверять табличный документ в отчете

  1. Запустите сценарий, чтобы он дошёл до формы отчета.

  2. Сохраните табличный документ в файл с помощью инструмента save_table_document_to_file:

    инструмент: save_table_document_to_file
    параметр: form_element_name=ИмяТабличногоДокумента
    параметр: file_name=путь/к/файлу/output.mxl
    параметр: format=mxl (по умолчанию)
    

  3. Сравните табличный документ с эталонным макетом, используя один из шагов:

Для сравнения всего документа:

Тогда табличный документ "ИмяРеквизита" равен макету "ИмяМакета"

Для сравнения по шаблону (с символами *):

Тогда табличный документ "ИмяРеквизита" равен макету "ИмяМакета" по шаблону

Примечание: Макет ищется сначала в обработке фича-файла, затем в каталоге проекта. Если в ячейке эталона указан символ *, такая ячейка не участвует в сравнении.

В начале сценария надо добавить пометку на удаление данных, которые были созданы предыдущими запусками сценария (идемпотентность).

Для этого: - в начало сценария добавь группу * Подготовка; - отметь её маркером // Очистка данных и/или добавь реальные шаги удаления создаваемых объектов, чтобы сценарий можно было перезапускать без дубликатов и ошибок автонумерации.


📝 Требования к сценарию

Структурные требования

✅ Должен получиться ОДИН сценарий
✅ Сценарий должен работать без ошибок и выполняться с начала и до конца через `run_scenario` (запуск выполняет пользователь вручную) и без использования инструмента `stop_scenario`.
❌ Если сценарий выполняется с ошибкой — вся задача считается невыполненной

Отладка сценария

⚠️ Ручной режим: без циклов запуска. Запуск сценария выполняет пользователь вручную (каждый прогон — отдельный запуск этого промпта). Агент НЕ выполняет автономные повторные запуски сценария в цикле (написать → запустить → исправить → снова запустить). Работа завершается однопроходной подготовкой: написать черновик → один раз проверить синтаксис (check_syntax) → провести самопроверку по чек-листу → передать сценарий пользователю. При ошибках пользователь заново запускает этот промпт с текстом ошибки — агент исправляет и снова передаёт.

Указания ниже адресованы пользователю, который выполняет сценарий вручную (в т.ч. запуск с номера строки); агент эти запуски не выполняет.

Если во время выполнения сценария возникла ошибка связанная с тем, что не найден элемент формы (поле, кнопка, флаг и т.д) и ошибка будет исправляться тем, что в шаге будет заменено имя элемента формы, то в таком случае нельзя выполнять сценарий с самого начала, а надо выполнить сценарий с номера строки, в которой находится исправляемый шаг. Это связано с тем, что выполнять сценарий с самого начала при такой ошибке долго и нет смысла.

Если во время выполнения сценария возникла ошибка связанная с тем, что не получилось нажать на команду панели функций, то в таком случае после исправления шага нельзя выполнять сценарий с самого начала, а надо выполнить сценарий с номера строки, в которой находится исправляемый шаг. Это связано с тем, что выполнять сценарий с самого начала при такой ошибке долго и нет смысла.

Ограничения и разрешения

Требуется

  • ✅ Использовать шаги из базы знаний.
  • ✅ Использовать стандартные шаги Vanessa.
  • ✅ Использовать комментарии для пояснения проверок (проверяющий шаг со сравнением значения обязателен).
  • ✅ Расширение у feature файла должно быть feature

Запрещено

  • ❌ Подключать клиент тестирования, если он уже подключен и нет требований запускать клиент тестирования под разными пользователями.
  • ❌ Использовать секцию Переменные.
  • ❌ Подключать библиотеку шагов.
  • ❌ Использовать Попытку/Исключение.
  • ❌ Использовать секцию Контекст.

Форматирование проверок

Для каждой проверки из списка требований создавайте комментарий с полным именем проверки:

// 4. Указать организацию: «Андромеда плюс».

Важно: Если в требовании указано, что надо сделать проверку — убирать её нельзя. Комментарий — только пояснение к проверяющему шагу. Главное требование — наличие самих ПРОВЕРОК: для каждой проверки из задачи в feature должен быть содержательный проверяющий шаг (сравнение значения/факта: число, строка, дата, состояние, проводка и т.п.). Шаги навигации и ввода (например, «открылось окно», заполнение полей) проверками НЕ являются и их не заменяют: сценарий из одних таких шагов без проверок считается не выполненным.


📌 Покрытие требований задачи

Каждому пункту/проверке из ОписаниеЗадачи.md должен соответствовать шаг (действие или проверка) в feature-файле. Если шаг не автоматизируется — НЕ удаляй и НЕ подменяй его, а оформи вынос:

// ВЫНОС <номер пункта>: <причина>

и зафиксируй обоснование. Сценарий с TODO или необоснованными выносами НЕ считается готовым.

📌 Самопроверка сценария перед завершением

Перед передачей сценария пользователю пройди по чек-листу (все пункты обязательны). Правила — из базы знаний Vanessa Automation; при сомнениях сверяйся с get_data_from_knowledge_base(format="all"):

  • [ ] В feature есть # language: ru, корректно оформлены Функционал: и Сценарий:
  • [ ] Строковые параметры — в апострофах '...'
  • [ ] Панель разделов + панель функций — ОДИН шаг: И В командном интерфейсе я выбираю "Раздел" "Функция" (НЕ два шага «В панели разделов» + «В панели функций»)
  • [ ] Символ * в конце заголовка окна — без пробела: "Заявка (создание)*"
  • [ ] Окно списка — во множественном числе; форма создания — с суффиксом (создание)*
  • [ ] Группы шагов — через * (сворачиваются), а не #-комментариями
  • [ ] Завершение редактирования строки — только после заполнения последнего поля строки таблицы
  • [ ] Кнопки искать по имени (с именем 'X'), а не только по заголовку
  • [ ] После смены окон — ожидание открытия (Тогда открылось окно "...")
  • [ ] В сценарии есть хотя бы одно Тогда (содержательная проверка значения, а не только навигация)
  • [ ] В начале сценария есть «Я закрываю все окна клиентского приложения»
  • [ ] Нет запрещённых шагов: Пауза, Я подключаю TestClient, Выполнить произвольный код
  • [ ] Нет лишних шагов «я активизирую поле»
  • [ ] Файл в кодировке UTF-8 без артефактов

🚨 Обработка ошибок

Алгоритм действий при ошибке

graph TD
    A[Возникла ошибка при выполнении сценария] --> B[Сделать скриншот клиента тестирования]
    B --> C[Сохранить скриншот в файл через get_window_screenshot_os]
    C --> D[Прочитать файл скриншота через Read]
    D --> E[Проанализировать скриншот с помощью ComputerVision]
    E --> F[Исправить ошибку]
    F --> G[Сценарий передан пользователю]
    G --> H[Пользователь повторно запускает промпт с текстом ошибки]
    H -->|Снова ошибка| A
    H -->|Выполнено без ошибок| I[Перейти к «Успешному выполнению» / завершению]

Важно: «Повторный запуск сценария» на схеме выполняет пользователь вручную (заново запускает этот промпт с текстом ошибки). Агент автономно сценарий в цикле не перезапускает (см. «Ручной режим: без циклов запуска» выше).

Примечание: ComputerVision — это встроенная возможность AI-модели для анализа изображений. После чтения файла скриншота через Read модель автоматически проанализирует изображение с помощью своих возможностей компьютерного зрения. Если не получилось снять скриншот — надо остановить выполнение задачи и сообщить об этом пользователю:

  1. Выполнить голосовое уведомление об ошибке:

    инструмент: voice_notification
    параметр: notification_type=error_occurred
    

  2. Вывести подробное описание проблемы в лог.

  3. Написать пользователю о возникшей проблеме с невозможностью снятия скриншота.

Критические ситуации

Если какой-то пункт из списка требований не удалось подготовить за 2 повторных запуска промпта пользователем (пользователь дважды вернул этот промпт с текстом ошибки, но сценарий всё ещё не готов):

Пояснение: После возникновения ошибки пользователь заново запускает этот промпт с текстом ошибки; агент исправляет сценарий и снова передаёт. Если после двух повторных запусков ошибка всё ещё возникает — это критическая ситуация.

  1. Шаг 1: Выполнить голосовое уведомление:

    инструмент: voice_notification
    параметр: notification_type=decision_required
    

  2. Шаг 2: Вывести подробное описание проблемы в лог.

  3. Шаг 3: Остановить выполнение задачи (агент останавливает выполнение самостоятельно).

  4. Шаг 4: Написать пользователю, что требуется его вмешательство.

Важно: После голосового уведомления агент самостоятельно останавливает выполнение задачи. Не нужно ждать автоматической приостановки — агент должен явно прекратить выполнение после уведомления пользователя. Остановка в критической ситуации — задокументированное исключение из запрета на досрочное завершение задачи (см. Правила.MD).


✅ Завершение работы

Успешное выполнение

Сценарий считается выполненным после успешного ручного запуска пользователем (run_scenario выполняет пользователь вручную) без ошибок. Голосовое уведомление об успешном прогоне:

инструмент: voice_notification
параметр: notification_type=task_completed

После выполнения задачи

  1. 📚 Напиши, какие знания стоит добавить в базу знаний инструмента get_data_from_knowledge_base

База знаний Vanessa Automation — универсальная база знаний, которая не привязана к конкретной конфигурации 1С. Содержит общие вопросы, подходы и паттерны тестирования.

Что записывать: алгоритмы работы с инструментами, общие паттерны написания тестов, типовые решения проблем, не зависящие от конкретной конфигурации.

  1. 💾 Сохрани и актуализируй важные знания в файл Memory.MD, если их там ещё нет.

Memory.MD — знания, накопленные при написании тестов для конкретной конфигурации 1С (например, ERP).

Что записывать: особенности тестирования конкретных объектов конфигурации (справочники, документы, отчеты), специфичные для данной конфигурации шаги, известные проблемы и их решения в рамках этой конфигурации.


📌 Чек-лист проверки выполнения задачи

  • [ ] База знаний загружена полностью (format=all)
  • [ ] База знаний проанализирована и рекомендации применены
  • [ ] Файл Memory.MD прочитан
  • [ ] Получены данные о часто используемых шагах
  • [ ] Получены данные командного интерфейса (панель разделов и функций)
  • [ ] Получена информация по формам, которые будут участвовать в сценарии до того как сценарий написан.
  • [ ] В начало сценария добавлено закрытие всех окон
  • [ ] В начало сценария добавлена пометка на удаление данных, созданных предыдущими запусками
  • [ ] Проверка синтаксиса выполнена
  • [ ] Все проверки присутствуют как проверяющие шаги (комментарии — только пояснение)
  • [ ] Сценарий представляет собой единое целое
  • [ ] Покрытие требований задачи проверено (каждому пункту ОписаниеЗадачи.md соответствует шаг или // ВЫНОС с обоснованием)
  • [ ] Отсутствуют запрещённые конструкции (Попытка/Исключение, секция Переменные)
  • [ ] Сценарий полностью написан
  • [ ] Сценарий передан пользователю; успешность прогона проверяется при его ручном запуске (повторном запуске промпта)
  • [ ] Записаны новые знания в файл Memory.MD
  • [ ] Пользователю написано, что следует изменить в базе знаний Vanessa Automation.