에피메테우스

cdc wiki
Com2312 (토론 | 기여)님의 2023년 12월 22일 (금) 22:54 판 (→‎관련 기술의 현황)
이동: 둘러보기, 검색

프로젝트 개요

기술개발 과제

국문 : 에피메테우스(LLM을 활용한 웹 기반의 업무 자동화 플랫폼)

영문 : 00000000..

과제 팀명

에피메테우스

지도교수

정형구 교수님

개발기간

2023년 9월 ~ 2023년 12월 (총 4개월)

구성원 소개

서울시립대학교 컴퓨터과학부 20189200** 오*영(팀장)

서울시립대학교 컴퓨터과학부 20189200** 김*원

서울시립대학교 컴퓨터과학부 20189200** 이*주

서울시립대학교 컴퓨터과학부 20189200** 장*호

서울시립대학교 컴퓨터과학부 20189200** 황*우

서론

개발 과제의 개요

개발 과제 요약

◇ LLM을 활용한 웹 기반의 업무 자동화 플랫폼 구축

  • 사용자가 제공한 업무를 실제로 실행할 수 있는 자동화 AI 플랫폼 구현이 주된 목표이다.
  • 기존 AutoGPT와 유사한 기능을 제공하도록 대형 언어 모델(LLM)을 이용해 사용자의 업무를 이루기 위한 일련의 과정을 LLM(Llama)이 생성 후 제공한다.
  • 기존 서비스와의 차이점은 AI 모델의 단점인 블랙박스 특성을 없애기 위해 업무를 수행하기 위한 각 단계에 적절한 코드를 DB에서 불러오고, 해당 코드를 실행한다는 점이다.
  • 특정 단계에 해당하는 기능이 없을 때 원하는 기능을 사용자가 직접 추가하여 실행할 수 있다.

개발 과제의 배경

  • 현재 ChatGPT의 성공에 힘입어 LLM을 이용하여 업무를 자동화하는 시도가 존재한다.
  • LLM을 이용하여 모든 업무를 자동화하는 것은 현재 수준으로는 부족하다는 보고가 있다.
  • 이러한 배경에 힘입어 기존 서비스의 한계점을 극복하기 위해 코드 단위로 업무를 실행하는 웹 기반의 업무 자동화 플랫폼을 구현하고자 한다.

개발 과제의 목표 및 내용

◇ Frontend

  • 접근성을 고려한 UI 개발
  • 사용자가 작성한 코드를 웹 환경에서 실행시키는 기능 개발


◇ Backend


◇ AI

  • LLM(Large Language Model)을 이용하여 사용자 목표 달성을 위한 업무를 자동으로 분할하는 기능 개발

관련 기술의 현황

관련 기술의 현황 및 분석(State of art)

  • 다양한 Benchmark에 대하여 여러 거대 언어 모델들의 성능을 비교

Benchmark.jpg

  • 하지만 해당 Benchmark에는 구현하고자 하는 기능을 담고 있지 않음
  • 해당 Benchmark에서 Llama-2(13B)을 사용
  • 특허조사 및 특허 전략 분석

기술 로드맵

  • Frontend
    • Figma
    • React
    • web worker
  • Backend
    • Spring Boot
    • AWS EC2
    • AWS VPC
    • AWS Lambda
    • Jenkins
    • Github Webhook
    • MongoDB
    • Docker
    • AWS Route53
  • AI
    • Llama-13B

시장상황에 대한 분석

  • 경쟁제품 조사 비교

내용

  • 마케팅 전략 제시

내용

개발과제의 기대효과

기술적 기대효과

내용

경제적, 사회적 기대 및 파급효과

내용

기술개발 일정 및 추진체계

개발 일정

내용

구성원 및 추진체계

◇ (AI)오*영(팀장)

◇ (Back-end)김*원

◇ (Front-end)이*주 

  UI/UX
  플랫폼 페이지 구현
  Back-end와의 SSE통신코드 작성

◇ (Front-end)장*호 

  컴포넌트 설계
  각 subtask별 실행코드 환경 구성
  실행코드의 실행 테스트 구현

◇ (Back-end)황*우

설계

설계사양

제품의 요구사항

에피메테우스 제품요구사항.png

설계 사양

  • 사용자가 요구한 업무에 대한 출력 제공
    • 사용자는 원하는 업무를 text box에 입력할 수 있다.
    • 입력을 제출(submit)하면 서버에서 1개 이상의 Step을 출력해준다.
    • 각 Step은 요약(Title), 상세내용(Description), 코드(Code), 작성언어(Language)를 포함하고 있다.
  • 코드 실행 가능
    • 이전 Step의 출력이 다음 Step의 입력으로 제공되어야 한다.
    • Step에 입력된 코드를 실행하여 Task에 대해서 수행한다.
  • 사용자가 직접 특정 단계의 코드 수정 가능
    • 특정 Step의 Code를 수정할 수 있는 에디터를 제공한다.
    • 새로 입력한 Code의 입출력 양식이 같은지 검사한다.
  • 이전 요청 저장
    • 기존의 사용자가 입력한 Task에 대해서 기록한다.
    • 이전 업무와 연결되는 이후의 업무를 우선적으로 제공한다.
  • 음성 인식을 통한 업무 입력 기능 제공
    • 음성인식을 통해 사용자가 업무를 입력하면, 텍스트로 변환하여 text box에 자동으로 입력한다.

개념설계안

에피메테우스 인프라도.jpg

  • User 요청의 접근 과정
    • Route53을 통해 S3 Bucket에 존재하는 정적 리소스에 접근한다.
    • S3 Bucket에서 Server로 API 요청을 보낸다.
    • Public Subnet 내의 Nginx EC2를 통해 Spring Boot EC2로 리버스 프록시가 진행된다.
    • DB에 접근이 필요하다면 Private Subnet 내의 MongoDB EC2에서 DB 데이터를 받아온다.
    • Llama에서 처리해야 하는 로직이 존재한다면 School Server로 요청을 보낸다.
    • School Server에 존재하는 Llama FastAPI 서버에서 응답을 보낸다.
  • Developer의 배포 과정(Frontend)
    • Source Code를 Main에 Merge한다.
    • Github Webhook을 통해 API Gateway에 연결된 API를 호출한다.
    • Lambda를 Trigger하여 Private Subnet 내의 Jenkins EC2로 Github Webhook의 Body를 전송한다.
    • Frontend 수정 여부를 판별한다.
    • Frontend의 배포 시에는 jenkins에서 빌드된 bundle을 S3 React Build Bucket에 보낸다.
    • S3 Build Bucket에서 S3 Deploy Bucket으로 보내고, Client는 이쪽으로 접근할 수 있다.
  • Developer의 배포 과정(Backend)
    • Source Code를 Main에 Merge한다.
    • Github Webhook을 통해 API Gateway에 연결된 API를 호출한다.
    • Lambda를 Trigger하여 Private Subnet 내의 Jenkins EC2로 Github Webhook의 Body를 전송한다.
    • Backend 수정 여부를 판별한다.
    • Jar 파일을 S3 Spring Bucket에 저장한다.
    • CodeDeploy에서 파일을 가져와 Spring EC2에 실행한다.
  • 외부 접근 제한
    • Build와 관련된 단위들은 외부에서 접근이 불가능하다.
    • NAT Gateway를 통해 내부 단위들은 외부 인터넷에 접근가능하다.

이론적 계산 및 시뮬레이션

내용

상세설계 내용

내용

결과 및 평가

완료 작품의 소개

프로토타입 사진 혹은 작동 장면

내용

포스터

내용

관련사업비 내역서

내용

완료작품의 평가

내용

향후계획

내용

특허 출원 내용

내용

원본 주소 "https://capstone.uos.ac.kr/cdc/index.php?title=에피메테우스&oldid=9565"