Archiv der Kategorie: Monitoring

Sensordaten ab USB-WDE1 mit InfluxDB/Grafana loggen und visualisieren

Schon seit längerer Zeit logge ich Sensordaten wie Temperatur, Luftfeuchtigkeit, Niederschlag und Wind – die Inspiration dazu lieferte mir damals Martin Kompf in Form dieses Beitrages – mittels drahtloser Sensoren von ELV und eines Python-Scripts in eine RRDtool-Datenbank. Mithilfe der aufgezeichneten Daten fütterte ich anschliessend mein Monitoring-System und meine Website. Dieses Konstrukt wurde nun auf eine modernere Basis, in Form einer Kombination aus InfluxDB und Grafana, umgestellt.

Altes Funktionsprinzip

Neues Funktionsprinzip

Hardwareaufbau

Das System besteht aktuell aus folgenden Komponenten:

  • Wetterstation ELV KS300 (Temperatur, Luftfeuchtigkeit, Niederschlag und Wind)
  • 2x Temperatursensor ELV S 300 IA
  • PC-Engines APU1D2 Board
  • Ubuntu 16.04 LTS [VM@Proxmox]
    • Docker CE 17.09
      • InfluxDB
      • Grafana

Log-Script

#!/usr/bin/python3
# Python Modules
import serial, sys, time
from influxdb import InfluxDBClient
# Configuration
serialPort='/dev/ttyUSB0'
db = InfluxDBClient(host='10.11.1.104', port=8086, database='weather')
measurement = 'Messungen'
# Open serial port
try:
    ser = serial.Serial(serialPort,baudrate=9600,timeout=None)
except:
    sys.exit(1)
# Main loop
while True:
    # Wait for data and try error recovery on disconnect
    try:
        serData = ser.readline()
        dataset = str(serData).split(';')
        # Parse meter readings into dictionary (abbr. to rd for typing laziness of yours truely)
        rd = {}
        for n in range(1,9):
            # Conversion from german decimal mark , to international .
            try:
                    rd['temp'+str(n)]=float(dataset[2+n].replace(',','.'))
            except ValueError:
                    pass
            try:
                    rd['hum'+str(n)]=float(dataset[10+n].replace(',','.'))
            except ValueError:
                    pass
        # Kombisensor is mapped to temp9/hum9
        try:
            rd['temp9']=float(dataset[19].replace(',','.'))
        except ValueError:
            pass
        try:
            rd['hum9']=float(dataset[20].replace(',','.'))
        except ValueError:
            pass
        try:
            rd['windspeed']=float(dataset[21].replace(',','.'))
        except ValueError:
            pass
        try:
            rd['rainfall']=float(dataset[22].replace(',','.'))
        except ValueError:
            pass
        # Write Dictionary to InfluxDB
        json_body = [
            {
            'measurement': measurement,
            'fields': rd
            }
        ]
        try:
            db.write_points(json_body)
        except:
            pass
    except serial.SerialException as e:
        try:
            ser.close()
            time.sleep(10)
            ser = serial.Serial(serialPort,baudrate=9600,timeout=None)
        except:
            pass

Grafana Dashboard

Ist der erste Scriptdurchlauf erfolgt, können die einzelnen Werte in einem Grafana-Dashboard verknüpft, bzw. visualisiert werden – alternativ importiert man sich einfach direkt mein fixfertiges Dashboard als Vorlage:

Download Dashboard

Weitere Bilder

Bei der weissen Box mit Fenster handelt es sich im Übrigen um unser temperaturüberwachtes „Katzenhotel“ mit zwei Gästezimmern 😉

Visualisierung für Smappee und myStrom mit InfluxDB/Grafana

Wie bereits in meinem Beitrag „Jeder mag fancy Dashboards“ angetönt, hat es mir die Kombination aus InfluxDB und Grafana extremst angetan. Seit Januar erfolgte die Fütterung der InfluxDB mit den Strommessdaten von meinem Smappee, in Form eines Bash-Scripts, zwar äusserst zuverlässig, dies jedoch leider im Scriptstil à la „quick and dirty“. Gute 11 Monate später konnte ich mich nun aber endlich dazu motivieren, das Script nach Python(3) zu migrieren. Da zwischenzeitlich auch mehrere myStrom-Smartplugs in unserem Haushalt Einzug hielten, wurde der Abruf  der Strommessung desjenigen, welcher in die Stromzuleitung des Racks eingeschlauft ist, auch gleich mit in das neue Script integriert.

Voraussetzungen

  • Lauffähige InfluxDB-Installation
    Am schnellsten erreicht man dies in Form eines Docker-Containers:
root@docker:~# docker run -p 8083:8083 -p 8086:8086 --restart=always --name=influxdb -v influxdb:/var/lib/influxdb influxdb:latest
  • Erstellen einer Datenbank
root@docker:~# docker exec -ti influxdb bash
root@420bb9285990:/# influx
> create database power
  • Lauffähige Grafana-Installation
    Auch hier sei der Einsatz eines Docker Containers angeraten:
root@docker:~# docker run -d -p 3000:3000 --restart=always --name=grafana -v grafana-data:/var/lib/grafana -v grafana-log:/var/log/grafana -v grafana-etc:/etc/grafana grafana/grafana:latest
  • Alle benötigten Python3-Module installiert
root@docker:~# pip3 install python-mystrom influxdb pycurl

Funktionsweise Script

Anmeldung an Smappee mittels HTTP POST Request
Abruf der Strommessdaten
Formatierung des Outputs
Erstellen eines leeren Dictionarys (rd)
Durchsuchen des Strommessdaten-Outputs mit Regex nach Name/Wert-Paaren
Vermeintlich doppelte Paare (Da 3 Phasen) werden mit einem Index versehen
Speicherung der gefundenen Name/Wert-Paaren in das Dictionary
Berechnung und Speicherung der Gesamtleistung
Abruf und Speicherung des myStrom-Messwerts und Speicherung im Dictionary
Schreiben des Dictionarys in die InfluxDB-Datenbank
Konfigurierte Zeit schlafen
Zurück zu Punkt 2

Script

#!/usr/bin/python3
# Python Modules
import re, time, urllib.request, pycurl, pymystrom
from influxdb import InfluxDBClient
# Configuration Smappee
ip_smappee = '10.11.3.43'
pollcycle = 30
c = pycurl.Curl()
c.setopt(c.URL, 'http://'+ip_smappee+'/gateway/apipublic/logon')
c.setopt(c.HTTPHEADER, ['Content-Type: application/json'])
c.setopt(c.POSTFIELDS, 'admin')
c.setopt(c.VERBOSE, False)
# Configuration Influx_DB
db = InfluxDBClient(host='10.11.1.104', port=8086, database='power')
measurement = 'Messungen'
# Configuration MyStrom
rack = pymystrom.MyStromPlug('10.11.3.40')
# Log in to Smappee
c.perform()
# Main Loop
while True:
    try:
        poll = urllib.request.urlopen('http://'+ip_smappee+'/gateway/apipublic/reportInstantaneousValues')
        data = poll.read().decode('utf-8').replace('<BR>','\n').replace('\\t','')
        rd = {}
        for match in re.findall("([^=,\r\n]+)=([^' ',\r\n]+)",data):
            if match[0].strip() in rd:
                if match[0].strip()+'2' in rd:
                    rd[str(match[0].strip()+'3')] = float(match[1].strip())
                else:
                    rd[str(match[0].strip()+'2')] = float(match[1].strip())
            else:
                rd[str(match[0].strip())] = float(match[1].strip())
            try:
                rd['activePowertotal'] = rd.get('activePower') + rd.get('activePower2') + rd.get('activePower3')
            except:
                pass
            try:
                rd['rackPower'] = float(rack.get_consumption())
            except:
                pass

        # Write Dictionary to InfluxDB
        json_body = [
            {
            'measurement': measurement,
            'fields': rd
            }
        ]
        db.write_points(json_body)
    except:
        c.perform()
#   print(rd)
    time.sleep(pollcycle)

Grafana Dashboard

Ist der erste Scriptdurchlauf erfolgt, können die einzelnen Werte in einem Grafana-Dashboard verknüpft, bzw. visualisiert werden – alternativ importiert man sich direkt mein fixfertiges Dashboard:

Download Dashboard

Jeder mag fancy Dashboards…

Wer wie ich schon lange auf der Suche nach einer Möglichkeit ist, Zeitreihen möglichst einfach, schnell und vorallem schön darstellen zu können, der sollte sich unbedingt mal Grafana, bzw. die Kombination aus InfluxDB und Grafana näher anschauen. Mithilfe der offiziellen Docker-Images erstellt man sich innert Minuten seine eigene lauffähige Umgebung. Wurde die InfluxDB mit ersten Daten gefüttert, steht dem ersten Dashboard schon nichts mehr im Wege.

Hier nun meine ersten beiden Dashboards:

Smappee Dashboard (V3)

Wetter Dashboard


Schick, oder? 😉

Netzwerk-Monitoring mit Observium

In den letzten Tagen beschäftigte ich mich intensiv mit dem Thema Netzwerk-Monitoring. Dabei nahm ich unzählige Systeme unter die Lupe. Angesprochen haben mich dabei jedoch nur zwei Systeme: PTRG und Observium. Für den professionellen Einsatz würde ich zu PTRG greifen. Für meine privaten Zwecke ist Observium jedoch perfekt geeignet. Voraussetzung sind jedoch SNMP-fähige Geräte, was bei mir mehrheitlich der Fall ist.

Installation

Als Basis für Observium empfiehlt sich ein Ubuntu 12.04 LTS Server. Ist der Ubuntu Server erstmal aufgesetzt, kann man sich gleich an die Installation von Observium machen. Dies gelingt mit dieser Anleitung innert weniger Minuten. Nach der Installation wird man von diesem Startbildschirm begrüsst:

SNMP aktivieren

Damit ein Gerät von Observium überwacht werden kann, gilt es, falls nicht schon aktiv, die SNMP-Funktion zu aktivieren und eine Community zu definieren. Wo diese Einstellungen liegen könnten, seht ihr anhand folgender Screenshots:

SNMP auf einem ESXi aktivieren

Um den SNMP Dienst auf einem ESXi Hypervisor zu aktivieren sind per CLI folgende Befehle einzutippen:

esxcli system snmp set --communities public
esxcli system snmp set --enable true
SNMP auf einem Windows-Server aktiviern

Um SNMP auf einem Windows Server zu aktivieren muss man mittels Server-Manager das Feature „SNMP-Dienst“ installieren und anschliessend den Dienst konfigurieren:

Gerät hinzufügen

Wurde auf allen Geräten SNMP aktiviert, kann man sie nun mittels Hostnamen zu Observium hinzufügen. Nach wenigen Minuten sollten anschliessend die ersten Werte sichtbar sein und das Monitoren kann beginnen. Viel Spass!

Screenshots Observium

Falls die Screenshots nicht reichen: Live-Demo Observium