Python: 고급 NumPy 기능으로 데이터 분석하기
·
🧑🏽‍💻Dev:Lang/Python
수학적인 함수, 수학적인 계산 담당넘파이 배열과 리스트의 차이점넘파이가 제공하는 다차원 배열 넘파이의 강력한 기능을 직접 사용하면서 익히기확률 분포와 난수 생성.고차원 배열의 인덱싱 기법넘파이가 제공하는 데이터 분석 함수 사용다수 변수들 간의 상관관계 계산리스트, 넘파이배열(nd.array)리스트는 여러 개의 값들을 저장할 수 있는 자료구조.리스트는 다양한 자료형의 데이터를 여러 개 저장할 수 있으며 데이터를 변경하거나 추가, 제거할 수 있음.하지만 데이터 과학에서는 파이썬의 기본 리스트로 충분하지 않음.데이터를 처리할 떄는 리스트와 리스트 간의 다양한 연산이 필요함.따라서, 데이터 과학자들은 기본 리스트 대신에 넘파이 선호Numpy란.numpy는 C언어로 구현된 파이썬 라이브러리로써,고성능의 수치계산을..
MariaDB: Memory 관련 개념
·
📊DB/MariaDB
■ MariaDB Memory 종류- MariaDB Memory는 두가지로 분류가된다. 모든 세션이 공유하고 사용하는 Global Memory 영역과 각각의 세션들별로 사용되는 Session Memory영역이 있다.■ Global Memory 영역DB가 최초 기동되었을 때에는 메모리를 최소한만 사용하다가 설정된 값 까지 증가하며 증가한 이후에는 “메모리를 반환하지 않고” 설정 된 값 이내에서 계속 사용됩니다.(오라클의 경우 DB기동시 설정된 값 만큼 메모리를 할당 받고 올라가는 반면 Mariadb 는 기동시 설정된 메모리 값만큼 할당 받는것이 아닌 설정된 값 만큼 서서히 증가하게 됩니다) 1) Innodb_buffer_pool_size- 디스크에서 데이터를 메모리에 캐싱함과 동시에 데이터의 변경을 버퍼링..
Linux: Metricbeat 설치 및 활용 가이드
·
🖥️Monitoring/ELK
metricbeat 란?Metricbeat를 이용하면 시스템과 서비스에서 메트릭 정보를 손쉽게 수집할 수 있다.Cpu, Memory, File system, Disk IO, Network IO 등과 시스템에서 실행되는 모든 프로세스에 대한 통계를 수집하여 전송한다.또한 기본적으로 내장되어 있는 모듈은 Apache, Jolokia, NGINX, MongoDB, MySQL, PostgreSQL, Prometheus 등의 다양한 서비스로부터 메트릭을 수집하며, 원하는 모듈이 없다면 Go Language로 새로운 모듈을 간단하게 생성할 수도 있다.metricbeat 설치yum으로 ELK stack을 설치했지만 이번에는 download 받아서 설치함.$ curl -L -O https://artifacts.elas..
Linux: Java 및 Elasticsearch 설치 가이드
·
🖥️Monitoring/ELK
java설치java 버전 확인java -versionjava 설치할 수 있는 버전 확인yum list java*jdk-develjava가 설치 되지 않았다면 — java 설치yum install java-1.8.0-openjdk-devel.x86_64Java 설치 확인javac -versionjava -version환경변수 등록readlink -f /usr/bin/javaJAVA_HOME = 복사한 경로(/jre/bin/java 빼고)‘vi /etc/profile’JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.412.b08-1.el7_9.x86_64 PATH=$PATH:$JAVA_HOME/bin CLASSPATH=$JAVA_HOME/jre/lib:$JAVA_HOME..
Prometheus: Node Exporter 설치가이드
·
🖥️Monitoring/Prometheus
node exporter 설치wget https://github.com/prometheus/node_exporter/releases/download/v1.7.0/node_exporter-1.7.0.linux-amd64.tar.gz파일 압축 풀기tar xzvf node_exporter-1.7.0.linux-amd64.tar.gzNode exporter 실행node_exporter를 이용해서 서버의 리소스를 메트릭으로 전달한다. 서버 모니터링을 할 서버에 설치해야 한다.설치하는 서버 방화벽 9100 해제해야 한다../node_exporter./node_exporter & # 백그라운드 실행.Prometheus — node_exporter 사이에 metric 전송 방식은 prometheus가 node_expo..
Prometheus: Alertmanager Curl로 Silence 요청하는 법
·
🖥️Monitoring/Prometheus
해당 기능: Jenkins 사용해서 shell schedule로 돌림.먼저, 프로메테우스 — alertmanager 서버 방화벽이 뚫려 있어야 함.curl -XPOST -H "Content-Type: application/json" \ -d '{ "matchers": [ { "name": "instance", "value": "서버_IP:9100", "isRegex": false }, { "name": "job", "value": "서버JOB이름", "isRegex": false } ], ..
Prometheus: 설치가이드
·
🖥️Monitoring/Prometheus
prometheus 설치Prometheus wget으로 설치wget https://github.com/prometheus/prometheus/releases/download/v2.42.0/prometheus-2.42.0.linux-amd64.tar.gzPrometheus 압축풀기tar -xzvf prometheus-2.42.0.linux-amd64.tar.gzprometheus 실행./prometheus--config.file=/파일경로/prometheus.ymlPrometheus 접속하는 법프로메테우스 default 포트 : 9090http://localhost:9090접속이 된다면, 정상.prometheus.yml 파일설정# my global configglobal: scrape_interval: ..
Prometheus: Blackbox Exporter 사용기
·
🖥️Monitoring/Prometheus
Prometheus Blackbox Exporter 사용기사용목적 : process — UP,DOWN 체크리눅스 서버 안에 Process UP, DOWN 체크를 하기 위해 사용하였다.wget https://github.com/prometheus/blackbox_exporter/releases/download/v0.25.0/blackbox_exporter-0.25.0.linux-amd64.tar.gz감시할 Process가 있는 서버에 blackbox exporter를 설치tar -xzvf blackbox_exporter-0.25.0.linux-amd64.tar.gz압축을 풀고, 폴더 안에 blackbox.yml 파일 열기vi blackbox.ymlmodules: http_2xx: prober: ht..
Prometheus: alertmanager 오류 대처법
·
🖥️Monitoring/Prometheus
level=warn component=cluster err="couldn't deduce an advertise address: no private IP found, explicit advertise addr not provided"ts=2024-06-05T03:36:10.082Z caller=main.go:278 level=error msg="unable to initialize gossip mesh" err="create memberlist: Failed to get final advertise address: No private IP address found, and explicit IP not provided"해당 오류는 클러스터 모드에서 사용할 광고 주소(advertise address)를 설정..
Prometheus: Python HTTP서버로 프로세스 헬스체크
·
카테고리 없음
/usr/local/bin 경로에 sh 파일 생성프로세스 체크 sh 파일filename: crawler_check.sh#!/bin/bash# 체크할 프로세스의 경로를 변수에 저장합니다.PROCESS_PATH="./venv/bin/python tool/checkup_crawler.py --prod -d"# 프로세스가 실행 중인지 확인합니다.if pgrep -f "$PROCESS_PATH" > /dev/nullthen PROCESS_STATUS=1 # 프로세스가 실행 중이면 1else PROCESS_STATUS=0 # 프로세스가 실행 중이지 않으면 0fi# Prometheus 메트릭 포맷으로 출력합니다.echo "# HELP process_up Is the process running (1 f..