Projet cluster OPI’One

Description du projet :

Ce projet consiste a créer un « super ordinateur » en miniature.

Ce « super ordinateur » sera réalisé en regroupant plusieurs ordinateurs indépendants appelés nœuds (node en anglais) dans une seule unité logique (grappe), afin de permettre une gestion globale et de dépasser les limitations d’un ordinateur.

Une grappe de serveurs est donc un groupe de serveurs indépendants fonctionnant comme un seul et même système. Un client dialogue avec une grappe, comme s’il s’agissait d’une machine unique.

Ce projet sera sera composée de 3 Orange Pi One (extensible).

Pour ce projet, j’ai choisi la carte orangePi One car elle est peu coûteuse (10€ l’unité) et le processeur embarqué est assez performant (4 coeurs @ 1.2 Ghz).

Liste du matériel (BOM) :

• 3 cartes OrangePi One,
• 1 chargeur usb de 40w
• 1 switch 100 mB
• 1 clé wifi usb (ou ethernet usb)
• 3 cables reseaux
• 3 cables d’alimentation
• 3 radiateurs cpu et 6 radiateurs ram

cout total < 100 €

Les étapes :

• assemblage de la grappe :
  cela n’a pas posé de problèmes particulier.
• installation des OS sur les carte micro sd
  – téléchargement du système Armbian Debian Jessie https://www.armbian.com/orange-pi-one/
  – téléchargement et installation de l’outil etcher https://etcher.io/
  – création des OS a partir de l’image disque debian sur les 3 cartes micro sd avec etcher
• configuration du noeud maitre :
  – configuration du clavier en français :
  
  root@orangepi:# dpkg-reconfigure keyboard-configuration

  1	root@orangepi:# dpkg-reconfigure keyboard-configuration

  
  – désinstallation de network manager
  
  root@orangepi:# apt-get purge network-manager

  1	root@orangepi:# apt-get purge network-manager

  
  – configuration des interfaces réseaux :
  
  root@master:# nano /etc/network/interfaces # Wired adapter #1 allow-hotplug eth0 iface eth0 inet static address 192.168.169.1 netmask 255.255.255.0 dns-nameservers 8.8.8.8 8.8.4.4 # Wireless adapter #1 allow-hotplug wlan0 iface wlan0 inet dhcp wpa-conf /etc/wpa_supplicant/wpa_supplicant.conf # Local loopback auto lo iface lo inet loopback

  1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17

  root@master:# nano /etc/network/interfaces # Wired adapter #1 allow-hotplug eth0 iface eth0 inet static   address 192.168.169.1   netmask 255.255.255.0   dns-nameservers 8.8.8.8 8.8.4.4   # Wireless adapter #1 allow-hotplug wlan0 iface wlan0 inet dhcp    wpa-conf /etc/wpa_supplicant/wpa_supplicant.conf   # Local loopback auto lo iface lo inet loopback

  
  – configuration de l’accès internet via wlan0 (wifi) :
  
  root@master:# nano /etc/wpa_supplicant/wpa_supplicant.conf network={ ssid="<ssid>" psk="<psk>" } root@master:# <code>service networking restart root@master:# ping www.google.fr PING www.google.fr (172.217.19.227) 56(84) bytes of data. 64 bytes from par21s11-in-f3.1e100.net (172.217.19.227): icmp_seq=1 ttl=53 time=16.3 ms 64 bytes from par21s11-in-f3.1e100.net (172.217.19.227): icmp_seq=2 ttl=53 time=17.3 ms 64 bytes from par21s11-in-f3.1e100.net (172.217.19.227): icmp_seq=3 ttl=53 time=24.1 ms --- www.google.fr ping statistics --- 3 packets transmitted, 3 received, 0% packet loss, time 5008ms root@master:#

  1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16

  root@master:# nano /etc/wpa_supplicant/wpa_supplicant.conf network={     ssid="<ssid>"     psk="<psk>" }   root@master:# <code>service networking restart root@master:# ping www.google.fr PING www.google.fr (172.217.19.227) 56(84) bytes of data. 64 bytes from par21s11-in-f3.1e100.net (172.217.19.227): icmp_seq=1 ttl=53 time=16.3 ms 64 bytes from par21s11-in-f3.1e100.net (172.217.19.227): icmp_seq=2 ttl=53 time=17.3 ms 64 bytes from par21s11-in-f3.1e100.net (172.217.19.227): icmp_seq=3 ttl=53 time=24.1 ms   --- www.google.fr ping statistics --- 3 packets transmitted, 3 received, 0% packet loss, time 5008ms root@master:#

  
  – mise à jour du système :
  
  root@orangepi:# apt-get update && apt-get upgrade -y

  1	root@orangepi:# apt-get update && apt-get upgrade -y

  
  – configuration de la time zone (Europe/Paris) :
  
  root@orangepi:# dpkg-reconfigure tzdata

  1	root@orangepi:# dpkg-reconfigure tzdata

  
  – configuration du nom d’hôte :
  
  root@orangepi:# nano /etc/hostname master

  1 2	root@orangepi:# nano /etc/hostname master

  
  – configuration du fichier hosts :
  
  root@orangepi:# nano /etc/hosts 127.0.0.1 localhost master ::1 localhost master ip6-localhost ip6-loopback fe00::0 ip6-localnet ff00::0 ip6-mcastprefix ff02::1 ip6-allnodes ff02::2 ip6-allrouters 192.168.169.1 master master.lan 192.168.169.11 slave1 slave1.lan 192.168.169.12 slave2 slave2.lan

  1 2 3 4 5 6 7 8 9 10 11

  root@orangepi:# nano /etc/hosts 127.0.0.1   localhost master ::1         localhost master ip6-localhost ip6-loopback fe00::0     ip6-localnet ff00::0     ip6-mcastprefix ff02::1     ip6-allnodes ff02::2     ip6-allrouters   192.168.169.1   master master.lan 192.168.169.11  slave1 slave1.lan 192.168.169.12  slave2 slave2.lan

  
  – configuration du resolveur :
  
  root@orangepi:# nano /etc/resolv.conf nameserver 8.8.8.8 root@orangepi:# reboot

  1 2 3 4

  root@orangepi:# nano /etc/resolv.conf nameserver 8.8.8.8   root@orangepi:# reboot

  
  – configuration du nat (pour que les autres noeuds puissent accéder à internet via le noeud maitre) :
  
  root@master:# iptables -A FORWARD -i eth0 -o wlan0 -j ACCEPT root@master:# iptables -t nat -A POSTROUTING -o wlan0 -j MASQUERADE root@master:# iptables -A FORWARD -i wlan0 -o eth0 -j ACCEPT root@master:# iptables-save > /etc/iptables_rules.save root@master:# nano /etc/sysctl.conf ... # Uncomment the next line to enable packet forwarding for IPv4 net.ipv4.ip_forward=1 ... root@master:# echo 'post-up iptables-restore < /etc/iptables_rules.save' >> /etc/network/interfaces root@master:# <code>service networking restart

  1 2 3 4 5 6 7 8 9 10 11 12 13 14

  root@master:# iptables -A FORWARD -i eth0 -o wlan0 -j ACCEPT root@master:# iptables -t nat -A POSTROUTING -o wlan0 -j MASQUERADE root@master:# iptables -A FORWARD -i wlan0 -o eth0 -j ACCEPT root@master:# iptables-save > /etc/iptables_rules.save   root@master:# nano /etc/sysctl.conf ... # Uncomment the next line to enable packet forwarding for IPv4 net.ipv4.ip_forward=1 ...   root@master:# echo 'post-up iptables-restore < /etc/iptables_rules.save' >> /etc/network/interfaces   root@master:# <code>service networking restart

  
  – configuration du serveur udhcp (pour attribuer automatiquement une adresse ip à tous les noeuds du réseau) :
  
  root@master:# apt-get install udhcpd root@master:# touch /var/lib/misc/udhcpd.leases root@master:# nano /etc/default/udhcpd # Comment the following line to enable DHCPD_ENABLED="yes" # nano /etc/udhcpd.conf # The start and end of the IP lease block start 192.168.169.10 #default: 192.168.0.20 end 192.168.169.100 #default: 192.168.0.254 # The interface that udhcpd will use interface eth0 #default: eth0 # kernel 3 #static_lease b6:f9:bc:5a:6d:3e 192.168.169.11 #static_lease fa:53:12:e0:47:27 192.168.169.12 # kernel 4 static_lease 02:81:46:70:72:48 192.168.169.11 static_lease 02:81:46:45:de:fa 192.168.169.12 #Options opt dns 8.8.8.8 option subnet 255.255.255.0 opt router 192.168.169.1 #opt wins 192.168.10.10 #option dns 129.219.13.81 # appened to above DNS servers for a total of 3 option domain lan option lease 864000 # 10 days of seconds

  1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32

  root@master:#  apt-get install udhcpd root@master:# touch /var/lib/misc/udhcpd.leases   root@master:# nano /etc/default/udhcpd # Comment the following line to enable DHCPD_ENABLED="yes"   # nano /etc/udhcpd.conf   # The start and end of the IP lease block start           192.168.169.10  #default: 192.168.0.20 end             192.168.169.100 #default: 192.168.0.254   # The interface that udhcpd will use interface       eth0            #default: eth0   # kernel 3 #static_lease b6:f9:bc:5a:6d:3e 192.168.169.11 #static_lease fa:53:12:e0:47:27 192.168.169.12   # kernel 4 static_lease 02:81:46:70:72:48 192.168.169.11 static_lease 02:81:46:45:de:fa 192.168.169.12   #Options opt     dns     8.8.8.8 option  subnet  255.255.255.0 opt     router  192.168.169.1 #opt    wins    192.168.10.10 #option dns     129.219.13.81   # appened to above DNS servers for a total of 3 option  domain  lan option  lease   864000          # 10 days of seconds

  
  – le serveur maitre (« master ») doit pouvoir se connecter directement sur les autres noeuds via ssh (sans demander de mdp) :
  
  root@master:~# ssh-keygen root@master:~# ssh-copy-id slave1 root@master:~# ssh-copy-id slave2

  1 2 3

  root@master:~# ssh-keygen root@master:~# ssh-copy-id slave1 root@master:~# ssh-copy-id slave2