apple에서 나온 논문 2024년 4월 22일 huggingface에 오픈 소스로 코드가 있다. 바로 다음날에 MS에서 더 작은 크기의 모델이 나왔다. transformer 기반의 구조를 가지고 있는 기존 LLM은 isotropic(모든 방향으로 동일한 성질, 모든 transformer 계층이 구조적으로 동일하다)장점 - 구현과 학습이 간단하다.단점 - 다양한 유형의 정보를 처리해야 하는 경우(문법, 문맥 등) 특정 유형의 정보를 처리하기 힘둘 수 있다. OpenELM은 anisotropic하다는 걸 말하고 시작하고 있다. 기존의 LLM보다 토큰도 작고, 모델 사이즈도 작으나, Average acc에서 더 좋은 성능을 보인다.공개 데이터셋을 사용했다.Source Subset TokensRefinedWe..
쿠버네틱스는 컨테이너를 다루는 기술이다. 컨테이너 - OS 가상화 기술이다.프로세스를 격리하며, 리눅스 커널을 공유한다. 컨테이너 안에다가 원하는 어플리케이션(웹 서버, DB) 등을 설치해서 사용할 수 있다. 가상 머신은 하이퍼바이저 위에 Guest OS가 나눠지고, 각 Guest OS 위에 앱이 올라가는 반면,컨테이너는 OS 위에 container Engine이 올라가고, 그 위에 앱들이 나눠져서 올라간다. 가상머신게스트 OS - Windows, Linux 등 다양하게 선택시작시간 - 길다(몇 분)이미지 사이즈 - 크다(수 GB ~ 수백 GB)환경관리 - 각 VM마다 OS 패치가 필요데이터 관리 - VM 내부 또는 연결된 스토리지에 저장 컨테이너게스트 OS - 없다.시작시간 -짧다(몇 초)이미지 사이즈..
1. 제공 받은 계정으로 AWS에 로그인2. Cloud9 서비스 검색 및 택3. 환경 생성 클릭시간 제한- 4시간4시간 동안 건들지 않으면 중지가 된다. 4.이름 입력 5. 아래와 같이 선택 한 뒤 최하단 생성 클릭 Instance type : t3.small Platform : Ubuntu Server 6. 본인이 생성한 Cloud환경의 열림 클릭전형적인 ide 편집기가 나온다.우측상단 - preference 톱니바퀴 - 유저 세팅가운데 휠을 내려서 터미널 font size 키우기 마스터, worker 1, worker 2번 저장 7. 좌측 상단 File 클릭, Upload Local Files 클릭하여 제공받은 키페어 파일을 드래그 앤 드랍 또는 파일을 열어 업로드8. 업로드된 키페어 파일의 권한을..
데이터를 수집, 분석 및 사용하는 행위 •모니터링 목적 –IT 리소스 및 시스템에 대한 여러가지 질문의 답 산출 및 의사 결정 –매일 몇 명이나 사이트를 방문하고 있는가? –시간 경과에 따른 방문자 수를 추적하려면 어떻게 해야 하는가? –웹 사이트에 성능 또는 가용성 문제가 있는지 있었던 적이 있는가? –Amazon Elastic Compute Cloud(EC2) 인스턴스의 용량이 부족해지는 것은 아닌가? –웹 사이트가 정상 동작하고 있는가?•리소스 과다 사용, 애플리케이션 결함, 리소스 구성 오류 또는 보안 관련 이벤트로 인한 운영 문제 감시가능 메트릭(Metric)리소스가 생성하는 다양한 형태의 데이터 중 모니터링을 통해 수집된 데이터 •메트릭 예 –시간 경과에 따라 EC2 인스턴스에서 수집 및 분석..
1. 모니터링 할 인스턴스 생성을 위해 AWS Console 에서 EC2 서비스로 이동2. 인스턴스 시작 버튼을 클릭3. 다음과 같이 설정합니다이름 및 태그 : -ec2Amazon Machine Image(AMI): Amazon Linux 2 AMI ( Kernel 5.10, SSD Volume Type인스턴스 유형: t2.micro 키 페어: 새 키 페어 생성 클릭키 페어 이름: -key키 페어 유형: RSA프라이빗 키 파일 형식: .pem네트워크 설정에서 편집 클릭보안그룹 생성을 선택하고, 이름과, 설명란에 -sg를 입력 하단의 보안 그룹 규칙 추가를 클릭하고, 아래 규칙을 추가유형 : http소스유형: 위치무관나머지 설정은 기본설정으로 한 뒤, 인스턴스 시작 클릭 4. EC2 서비스에서 인스턴스로 ..
[H-mobility Class] 로보틱스 일반 강좌 후기
로보틱스는 생각보다 후기가 많이 없는 것 같아 글을 남겨본다. 기계과에서 기본적으로 배우는 정기구학, 역기구학의 이론을 배운다.그 이외에도 제어 이론으로 어떻게 모터의 움직임에 대한 최적화를 하고, 추정하는지에 대한 것도 확실히 심화적으로 배울 수 있다. 필자는 로봇 전공자인데, 전공자이면서도 전혀 들어보지 못했던 이론들을 코드로 구현해볼 수 있어서 좋았다. 기본적으로 ROS 1 버전으로 C++를 기반 수업이 진행되며, 단순히 이론을 배우는 것 뿐만 아니라, ROS 코드를 실습으로 하며 진행된다. 아쉬운 게 있다면, 저작권 때문에 Pdf나 이런 건 제공되지 않는다는 점. 덕분에 필기하느라 엄청 빡셌다. 게다가 센서 및 하드웨어에 대한 이론, simulink와 simscape를 ROS와 연동하는 방법 등..