FEATURES AND CAPABILITIES OF LLM APPLICATION IN SOFTWARE DEVELOPMENT

Назва

Англійська

Російська

.

Українська

ОСОБЛИВОСТІ ТА МОЖЛИВОСТІ ЗАСТОСУВАННЯ LLM У СФЕРІ РОЗРОБКИ ПРОГРАМНОГО ЗАБЕЗПЕЧЕННЯ

Опис

Англійська

This article explores the roles and capabilities of Large Language Models (LLMs) in software development, ranging from specialized models targeted at specific languages or domains to general models applicable to a wide array of tasks. It provides an overview of the key features of LLMs, emphasizing their potential for deep analysis and text generation, and reveals opportunities for their application across various challenges. The article analyzes primary directions for optimizing interactions with LLMs, which include context management, fine-tuning, information vectorization, leveraging built-in tools from platforms, prompt engineering, zero-shot prompting, few-shot prompting, chain-of-thought prompting, directional stimulus prompting, prompts using domain-specific prompts (dsp), prompts without using dsp, tree of thought prompting, reward prompting, Developer-driven LLMs, Repository-driven LLMs, and Project-driven LLMs. It details the advantages and disadvantages of both commercial and open-source models. Strategies for utilizing LLMs by developers are presented, drawing on personal experiences with LLMs and ideas yet to be realized. Special attention is given to developer-oriented concepts that provide support and responses based on large datasets and project context, including coding habits, preferences for specific technologies or libraries, and even specific domain knowledge that developers apply in their routine work. The necessity of considering who will use the model−whether developers, clients, or end-users−is emphasized, highlighting the importance of adapting the level of access to information based on the audience. Potential issues that developers may encounter when working with LLMs are identified, including the generation of irrelevant responses, misinformation or "hallucinations," as well as biases and delays in accounting for recent events. The human factor is identified as a critical element in evaluating and utilizing the outputs of language models before their implementation in a project. This work aims to inform developers about strategies for selecting and adapting LLMs to meet the specific requirements of projects while taking their context into account.

Російська

109-113

Українська

У даній статті досліджено ролі та можливості Великих Мовних Моделей (LMM) у сфері розробки програмного забезпечення, які варіюються від спеціалізованих, орієнтованих на конкретні мови або домени, до загальних моделей, які можуть застосовуватися до широкого спектру задач. Проведено огляд основних особливостей LMM, акцент на їхньому потенціалі у глибинному аналізі та генерації тексту, а також розкриває можливості застосування в широкому спектрі задач. Проаналізовано основні напрями щодо оптимізації роботи з LMM, які включають в себе контекст, fine tuning, векторизація інформації, використання вбудованого інструментарію платформ, prompt engineering, zero-shot prompting, few-shot prompting, chain-of-thought prompting, directional stimulus prompting, промпт з використанням dsp, промпт без використання dsp, tree of thought prompting, reward prompting, Developer driven LLM, Repository driven LLM, Project driven LLM. Детально аналізуються переваги та недоліки комерційних та відкритих (OpenSource) моделей. Представлено стратегії використання LLM моделей для розробників, як особистий досвід роботи з LLM та ідеї які ще доведеться реалізовувати. Особливу увагу приділено концепціям, які орієнтовані на розробника, які надають підтримку та відповіді на основі великих даних та контексту проекту та включають в собі певні звички в кодуванні, вподобання до певних технологій чи бібліотек, і навіть специфічні доменні знання, які розробник застосовує у своїй рутинній роботі. Визначено необхідність враховувати, хто буде використовувати модель: лише розробники чи також замовники та користувачі, в залежності від аудиторії, адаптування рівеня доступу до інформації. Сформовані ймовірні проблеми роботи з LLM з якими можуть зіткнутися розробники при роботі з великими мовними моделями, які можуть генерувати нерелевантні відповіді, містити помилкову інформацію чи створювати її (галюцинації), а також мати упередження та затримку у врахуванні останніх подій. Визначено людський фактор, як ключовий фактор в оцінці і користуванні результатами роботи мовних моделей, перед її впровадженням у проект. Робота призначена для інформування розробників про стратегії вибору та адаптації моделей LMM для специфічних вимог проектів з урахуванням їхнього контексту.

Автор

Українська

Moshura, O.

Українська

Derkach, T.

Українська

Dmytrenko, T.

Українська

Dmytrenko, А.

Українська

Loza, V.

Тематика

Англійська

Large Language Models

Англійська

artificial intelligence

Англійська

fine-tuning

Англійська

vectorization

Англійська

OpenSource

Російська

22

Українська

Великі Мовні Моделі

Українська

штучний інтелект

Українська

fine-tuning

Українська

векторизація

Українська

OpenSource

Видавництво

Українська

Національний університет «Полтавська політехніка імені Юрія Кондратюка»

Тип

info:eu-repo/semantics/article

info:eu-repo/semantics/publishedVersion

Українська

Рецензована Стаття

Формат

application/pdf

Ідентифікатор

https://journals.nupp.edu.ua/sunz/article/view/3524

10.26906/SUNZ.2024.4.109

Джерело

Англійська

Control, Navigation and Communication Systems. Academic Journal; Vol. 4 No. 78 (2024): Control, Navigation and Communication Systems; 109-113

Російська

Системы управления, навигации и связи. Сборник научных трудов; Том 4 № 78 (2024): Системи управління, навігації та зв’язку; 109-113

Українська

Системи управління, навігації та зв’язку. Збірник наукових праць; Том 4 № 78 (2024): Системи управління, навігації та зв’язку; 109-113

2073-7394

10.26906/SUNZ.2024.4

2024. №4 (78)

Мова

uk

Відношення

https://journals.nupp.edu.ua/sunz/article/view/3524/2938

Права

Українська

eNUPPIR

Властивості

Набори елементів 1

Збірник наукових праць. Системи управління, навігації та зв’язку

Інформація про метадані