반응형 기억하고 싶은 지식/인공지능9 [인공지능/AI/최적화]휴리스틱 알고리즘 BO(Bayesian Optimization)란? 적은 실험으로 최적점을 똑똑하게 찾는 방법 안녕하세요.“기억하고자 하는 모든 것”을 담아내는 “리멤버미” 입니다. 최적화 문제를 풀다 보면 이런 상황을 자주 만나게 됩니다.한 번 평가하는 데 시간이 오래 걸리거나, 실제 실험 비용이 크거나, 시뮬레이션 한 번 돌리는 것 자체가 부담스러운 경우입니다. 이럴 때는 무작정 많은 점을 찍어보는 방식이 비효율적입니다. 바로 이런 문제를 다룰 때 자주 언급되는 방법이 BO(Bayesian Optimization) 입니다. BO는 비용이 큰 black-box function을 적은 평가 횟수로 순차적으로 최적화하는 대표적인 방법으로 소개되며, 하이퍼파라미터 최적화, A/B 테스트, 과학·공학 문제 등 폭넓은 영역에 적용됩니다.핵심만 먼저 말하면,BO는 실제 목적함수를 자주 직접 계산하지 않고, 먼저 그 함수를.. 2026. 4. 8. [인공지능/최적화/AI] 휴리스틱 알고리즘 DE(Differential Evolution)란? 벡터 차이로 해를 진화시키는 전역 최적화 방법 안녕하세요.“기억하고자 하는 모든 것”을 담아내는 “리멤버미” 입니다. 최적화 문제를 풀다 보면, 해 공간이 너무 넓어서 어디부터 찾아야 할지 막막한 경우가 많습니다.특히 목적함수가 비선형이거나, 매끄럽지 않거나, 미분 정보를 쓰기 어렵거나, 지역 최적해에 쉽게 갇히는 문제에서는 전통적인 방법만으로 답을 찾기 까다로운 경우가 있습니다. 이런 상황에서 자주 언급되는 대표적인 메타휴리스틱 중 하나가 바로 DE(Differential Evolution) 입니다. DE는 Storn과 Price가 제안한 확률적 개체군 기반 최적화 기법으로, 여러 후보 해 사이의 차이 벡터를 이용해 새로운 해를 만든다는 점이 핵심입니다.핵심만 먼저 말하면, DE는 “좋은 해 주변을 무작정 흔드는 방식”이 아니라, 현재 개체군 안에.. 2026. 4. 8. [최적화/AI] 유전 알고리즘(Genetic Algorithm)이란? 선택·교차·돌연변이로 이해하는 핵심 원리 안녕하세요.“기억하고자 하는 모든 것”을 담아내는 “리멤버미” 입니다. 최적화 문제를 다루다 보면, 해를 한 번에 정확히 계산해서 찾기 어려운 경우가 많습니다.특히 변수 조합이 너무 많거나, 함수가 매끄럽지 않거나, 미분이 어렵거나, 정수 조건과 제약조건이 함께 얽혀 있으면 전통적인 방법만으로는 풀기 까다로운 경우가 많습니다. 이런 상황에서 자주 등장하는 접근이 바로 유전 알고리즘(Genetic Algorithm, GA) 입니다. MathWorks는 GA를 확률적(stochastic) 이고 개체군 기반(population-based) 인 알고리즘으로 설명하며, 연속 변수뿐 아니라 정수 제약이 있는 문제와 비매끄러운 문제에도 적용할 수 있다고 설명합니다. 핵심만 먼저 말하면, 유전 알고리즘은 좋은 해를 가.. 2026. 4. 7. [인공지능/최적화/AI] 휴리스틱 알고리즘 SA(Simulated Annealing)란 무엇인가? 국소해를 넘어서 더 좋은 해를 찾는 방법 안녕하세요.“기억하고자 하는 모든 것”을 담아내는 “리멤버미” 입니다. 최적화 문제를 풀다 보면 자주 부딪히는 벽이 있습니다.바로 지금 당장은 좋아 보이지만 전체적으로는 최선이 아닌 해, 즉 local minimum(국소 최솟값) 입니다.이럴 때 자주 등장하는 대표적인 휴리스틱 알고리즘이 바로 SA, Simulated Annealing 입니다.SA는 금속을 천천히 식히며 더 안정적인 상태로 가는 과정에서 아이디어를 가져온 확률적 최적화 기법으로, 1983년 Kirkpatrick, Gelatt, Vecchi에 의해 대표적인 메타휴리스틱으로 정리된 방법입니다. 핵심은 초반에는 비교적 과감하게 탐색하고, 후반에는 점점 안정적으로 수렴하는 데 있습니다.SA를 한 문장으로 설명하면“지금보다 나쁜 선택도 가끔은 받.. 2026. 4. 7. 인공지능, 머신러닝, 딥러닝의 개념과 IT업종이 아니라도 공부 해야 하는 이유 안녕하세요. "기억하고자 하는 모든 것"을 담아내는 "리멤버미" 입니다. 요즘 인공지능 머신러닝 그리고 딥러닝 용어를 많이 접하실텐데요 1. 아직 개념이 정확히 잡히지 않으신분 2. 어디에 써먹는지 모르겠는분 3. 나도 공부해야할지 고민되시는분 이런 분들께 조금이나마 도움이 됐으면하는 바램으로 글을 씁니다. 의외로 인공지능이란 단어는 1956년에 처음 탄생되었습니다. 지속 발전해오면서 산업에 조금씩 스며들었지만 알파고와의 대전으로 딥러닝기법이 주목받으면서 급속도로 산업이 성장하기 시작했습니다. 불가 몇년 전만 해도 비인기 연구 분야라 당시 연구했던 분들은 대부분 교수직 초빙을 받기도 하고 산업에서는 인공지능 관련 인력의 부족 사태를 겪고 있죠. 그런 인공지능 분야 중에서도 컴퓨터비전과 자연어처리에 가장 .. 2023. 2. 21. [OpenAI/ChatGPT] ChatGPT의 (문제 풀이 편) 행렬 연산 안녕하세요. "기억하고자 하는 모든 것"을 담아내는 "리멤버미" 입니다. 이번엔 선형대수 공부를하다보니 chat gpt에서 문제 풀이도 가능할까 싶어 질문해보았습니다. 일단 행렬 관련 질문을 하기위해서 행렬을 어떻게 표현할지 써봤는데요. 3 x 3 matrix를 표현하기 위해선 아래와 같이 [[],[],[]] 대괄호로 나눠서 작성해주면 됩니다. 그리고 본격적으로 질문해 봤는데요. 3개 의 matrix가 선형종속 한지 물어보니 답변을 해줍니다. 그리고 그 이유를 물어보니 자세히 설명해주네요. 추가로 질문해보겟습니다. Rank 에 대해서도 물어보고 projection 한 값도 문제를 내봤더니 풀이과정을 상세히 풀면서 설명을 해주네요. 이제 대학 과제도 문제 없겠네요. chat gpt에게 문제를 그대로 써서 .. 2023. 2. 3. [OpenAI/ChatGPT] ChatGPT의 (python 코딩 편) reinforcement learning 안녕하세요. "기억하고자 하는 모든 것"을 담아내는 "리멤버미" 입니다. ChatGPT가 코드를 잘 짜준다고 해서 한번 시도해 봤습니다. 한글로 치면 속도가 느려서 영어로 질문해 봤습니다. reinforcement learning 을 위한 게임 환경인 tic tac toe 를 코드로 짜달라고 요청해 봤습니다. 그리고 코드를 설명해달라고 했죠. 놀랍게도 1분도 안되서 코드를 완성시키고 설명을 해줍니다. 코드를 돌려보니 에러없이 잘 돌아가더군요. 앞으로 코드 짤때나 공부할때는 chat GPT를 활용해야 겟어요. 사용하다가 팁이나 문제점이 생기면 다시 리뷰 드리겟습니다! 2023. 1. 26. [OpenAI/ChatGPT] ChatGPT의 (글쓰기/소설 편) 사용 소감 안녕하세요. "기억하고자 하는 모든 것"을 담아내는 "리멤버미" 입니다. ChatGPT의 놀라운 성능을 다시한번 느껴보고자 소설과 리뷰를 작성해달라고 해보겠습니다. 1. 중세시대 남녀 사랑이야기를 소설로 요청 2. 맛집 리뷰 작성 요청 조건을 걸고 소설을 써달라고 해봤더니 AI가 소설을 써내려갔으나 조건에 너무 제약을 받은 탓일까요. 그래도 전쟁으로 두사람이 갈라졌고 여주가 남자를 떠난 이유 그리고 여주의 새로운 삶으로 인한 이별로 끝맺으며 창작해 냈습니다. 그렇다면 다시 조건을 없애고 요청해봤는데요 ChatGPT는 앞서 질문한 내용을 기억한다고 해서 결국 비슷한 내용으로 창작됐습니다. 이번에는 전쟁으로 헤어졌다 다시 만났지만 왕국의 정치적압박으로 인한 이별로 그려냅니다. 그렇다면 이번에는 맛집 리뷰를 .. 2023. 1. 14. [OpenAI/ChatGPT] ChatGPT 놀라운 성능이네요! 유료화 될 것인가?! (ChatGPT 질문 : 주식/부동산편) 안녕하세요. "기억하고자 하는 모든 것"을 담아내는 "리멤버미" 입니다. OpenAI의 ChatGPT가 요즘 핫합니다. 정확한 자연어처리와 방대한 지식을 훈련한 Chat GPT는 어떤 분야를 질문해도 답변을해주고 소설을 쓰기도 하며 Code를 만들어주기도 하는등 수시간에서 몇일을 투자해야하는 업무도 단 몇초안에 만들어주기도 합니다. ChatGPT는 유료화 될 까요? 최근 ChatGPT에서 프로패셔너널이라는 유료버전을 공개하고 테스트를 위한 대기자를 받기 시작했다고 합니다. 아직 가격은 책정되지 않았구요. 현재 많은 이들의 관심으로인해 ChatGPT의 운영비용이 크게 상승하여 유료버전 Open은 불가피할 것으로 보입니다. 하지만 이런 관심은 ChatGPT의 실수를 잡아주고 끊임없는 학습을 시켜주어 더욱 모.. 2023. 1. 14. 이전 1 다음 반응형
