Это мои выводы из Открытого курса искусственного интеллекта по быстрому проектированию. Для более глубокого анализа и ознакомления с кодом я бы посоветовал пройти весь курс.

Основные рекомендации курса:

1. Будьте ясны и конкретны

  1. Будьте четкими и конкретными, давая подсказки.
  2. Это снижает вероятность получения нерелевантных ответов.
  3. Не принимайте ясность за короткую подсказку. Иногда более длинные подсказки обеспечивают большую ясность.

1.1 Тактика

  1. Используйте разделители
    . Например, подсказка: «Обобщите текст, разделенный тройными обратными кавычками, в одно предложение. ```Вы должны выразить то, что вы хотите от модели, предоставив максимально четкие и конкретные инструкции. Это направит модель к желаемому результату и уменьшит вероятность получения неуместных или неправильных ответов. ```”
     – не имеет значения, какой разделитель используется, если есть четкое разделение.
  2. Запросите структурированный вывод.
    - Например, подсказка: в конце подсказки добавьте, предоставьте им в формате JSON следующие ключи: book_id, название, автор, жанр.
  3. Получив ответ от модели, вы можете спросить модель, были ли выполнены условия, заданные в задаче.
    - Например, Подсказка: «Вам будет предоставлен текст, заключенный в тройные кавычки.
    Если он содержит последовательность инструкций, перепишите эти инструкции в следующем формате: Шаг 1, Шаг 2,..Шаг N. Если текст не содержит последовательности инструкций, то просто напишите «Нет шагов». предоставил'. ”
  4. Несколько подсказок
     – Приведите примеры успешного выполнения заданий , а затем попросите модель выполнить задание.
     – Приведите примеры разговора между ребенком и родителем и попросите ответить в один из следующих стилей.

2. Дайте модели время подумать

  1. Укажите шаги для выполнения задачи.
  2. Поручите модели выработать собственное решение, прежде чем спешить с выводом.

3. Ограничения модели большого языка

  1. Иногда модель будет делать заявления, которые кажутся правдоподобными, но не соответствуют действительности. Это называется Галлюцинации.
  2. Чтобы избежать галлюцинаций, сначала попросите модель найти соответствующую информацию, а затем ответьте на основе соответствующей информации.

4. Процесс итеративный

  1. Важен не сам запрос, а процесс.
  2. Структура, которой нужно следовать — идея → реализация (подсказка) → результат эксперимента → анализ ошибок → идея
  3. Вот почему не верьте таким вещам в Интернете, как безупречная подсказка.
  4. Думайте не об идеальной подсказке, а о процессе.

5. Приложения

5.1 Подведение итогов

  1. Мощный инструмент, так как вы можете играть с количеством символов, количеством слов или количеством предложений в резюме.
  2. LLM не очень хороши в подсчете, но это должно дать вам достаточно близкий результат.
  3. Пример: вы хотите подытожить длинный отзыв о товаре от клиента:
     — укажите 50 слов, 3 предложения, 200 символов и т. д.
     – вы можете запросить подведение итогов отзыва для определенного отдела, например отдела доставки. или отдел продаж.

5.2 Вывод

  1. Вы можете запросить настроение отзыва о продукте, например, «Положительный или отрицательный».
  2. Вы можете предоставить список сантиментов (разных эмоций) и спросить, какие из них правдивы в обзоре.

5.3 Преобразование

  1. LLM обучаются на большом количестве данных из Интернета, которые включают разные языки, поэтому возможен перевод.
  2. Попросите, чтобы обзор был переведен на другой язык.
  3. Помимо перевода, вы можете попросить переписать что-нибудь или проверить орфографию и грамматику в вашем тексте.

5.4 Расширение

  1. Использование более короткого текста для создания большего текста.
  2. Основной вариант использования этого - мозговой штурм идей.
  3. Основным минусом этого является большой спам.

6. Температура

  1. Настройка температуры больших языковых моделей в основном означает «степень случайности» в выводе.
  2. Если вы пытаетесь построить надежную систему, вам всегда следует устанавливать температуру равной 0.

Вот и все

Надеюсь, вы найдете эту информацию полезной и передадите ее, как и я. По иронии судьбы, ИИ не использовался для подведения итогов курса. Оглядываясь назад, ИИ мог бы работать лучше.