1 of 17

Євген Моспан, CTO EPAM Ukraine

5 березня 2024

Сучасний інструментарій фахівця у сфері штучного інтелекту: перспективи та можливості

EPAM Proprietary & Confidential.

1

2 of 17

Напрями:Technology ConsultingArchitectureR&D

Про мене

Євген Моспан

CTO EPAM Ukraine

Проєкти:

MyDHL+�Дія

Монобанк консалтинг�50+ інших проєктів

2

3 of 17

Чи це притаманне тільки «IT»?

  • Що каже ваш досвід?

  • Чи всюди ви бачити «справжню» якість?

  • А ви впевнені, що там, де ви її бачити, вона справді є?

3

4 of 17

Штучний інтелект і хайп навколо нього

  • ШІ – це хайп та фейк?

  • А що, якщо це НЕ фейк і не просто хайп?

  • Як ви бачите ідеальний ШІ?

GENERATED BY AI

4

5 of 17

ШІ може бути корисним

  • Віртуальні помічники по знанням

  • Віртуальні тьютори

  • Віртуальні робітники

  • Fun ☺

GENERATED BY AI

5

6 of 17

RAG (retrieval augmented generation)

GENERATED BY AI

6

7 of 17

LLM agents

GENERATED BY AI

The architecture depicted in the image is an abstract representation of an intelligent agent system. It outlines the components and workflow that an artificial intelligence (AI) or an autonomous system might use to process and respond to user requests. Here's a breakdown of what each component represents in such a system:

1. User Request: This is where the system receives input from the user, which can be a command, a question, or data that the user wants the system to process.

2. Agent: The agent is the core of the system that processes the user's request. It is likely an AI model or a software agent that uses algorithms to interpret and act on the input. The brain icon suggests that this process involves intelligence or complex computation.

3. Tools: These are the utilities or applications the agent can use to perform specific tasks. Tools can be anything from data processing software to communication modules or any other resource the agent needs to complete its tasks.

4. Memory: This represents the system's database or memory storage where information is kept. The agent may store past interactions, learned data, or any other information that can be used to improve the response to the current or future user requests.

5. Planning: This component indicates that the system has a way to plan out actions or responses. It may involve scheduling tasks, allocating resources, or developing strategies to achieve the goals set by the user requests.

The architecture suggests a dynamic and iterative process where the agent may repeatedly interact with its tools, memory, and planning components to refine its response to the user request. This kind of system is common in complex software architectures, like those found in AI, robotics, smart systems, or other automated services that require adaptive and intelligent behavior.

7

8 of 17

LLM Fine tuning

GENERATED BY AI

8

9 of 17

Популярні LLM

LLM

Developer

# of parameters

Access

OpenAI

175 billion+

API

Google

Nano: 1.8 & 3.25 billion; others unknown

API

Google

340 billion

API

Meta

7, 13, and 70 billion

Open source

LMSYS Org

7, 13, and 33 billion

Open source

Anthropic

Unknown

API

Stability AI

7, 13, and 70 billion

Open source

Stability AI

7, 13, and 70 billion

Open source

Cohere

Unknown

API

Technology Innovation Institute

1.3, 7.5, 40, and 180 billion

Open source

Mosaic

7 and 30 billion

Open source

Mistral AI

46.7 billion

Open source

Salesforce

7 billion

Open source

9

10 of 17

Рейтинг

https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard

10

11 of 17

Популярні framework

11

12 of 17

Як ШІ може вплинути на SDLC?

  • Коли дерева були маленькими, тоді існували «комп’ютерщикі»

GENERATED BY AI

12

13 of 17

Як зараз ми робимо software?

«комп’ютерщикі»

13

14 of 17

Як це могло би бути з ШІ?

14

15 of 17

Так що ж повинен знати сучасний інженер?

  • Повернути широту знань і вміти вирішувати задачі, а не ставити питання та пропонувати опції

  • Розбиратися в сучасних трендах ШІ. Бути скептичном практиком, а інколи безнадійним мрійником

  • «Делегувати» постійні одноманітні задачі власним віртуальним помічникам

  • Humble, hungry, smart !

GENERATED BY AI

15

16 of 17

Що читати і за чим слідкувати?

GENERATED BY AI

16

17 of 17

YouTube EPAM

Telegram EPAM

Розіграш

17