Add docker load instruction in README
[src/xds/xds-server.git] / README.md
1 # XDS - X(cross) Development System Server
2
3 XDS-server is a web server that allows user to remotely cross build applications.
4
5 The first goal is to provide a multi-platform cross development tool with
6 near-zero installation.
7 The second goals is to keep application sources locally (on user's machine) to
8 make it compatible with existing IT policies (e.g. corporate backup or SCM).
9
10 This powerful webserver (written in [Go](https://golang.org)) exposes a REST
11 interface over HTTP and also provides a Web dashboard to configure projects and execute only _(for now)_ basics commands.
12
13 XDS-server also uses [Syncthing](https://syncthing.net/) tool to synchronize
14 projects files from user machine to build server machine or container.
15
16 > **NOTE**: For now, only Syncthing sharing method is supported to synchronize
17 projects files.
18
19 > **SEE ALSO**: [xds-make](https://github.com/iotbzh/xds-make), a wrapper on `make`
20 command that allows you to build your application from command-line through
21 xds-server.
22
23
24 ## How to build
25
26 ### Dependencies
27
28 - Install and setup [Go](https://golang.org/doc/install) version 1.7 or
29 higher to compile this tool.
30 - Install [npm](https://www.npmjs.com/) : `sudo apt install npm`
31 - Install [gulp](http://gulpjs.com/) : `sudo npm install -g gulp-cli`
32
33
34 ### Building
35
36 Clone this repo into your `$GOPATH/src/github.com/iotbzh` and use delivered Makefile:
37 ```bash
38  mkdir -p $GOPATH/src/github.com/iotbzh
39  cd $GOPATH/src/github.com/iotbzh
40  git clone https://github.com/iotbzh/xds-server.git
41  cd xds-server
42  make all
43 ```
44
45 And to install xds-server in /usr/local/bin:
46 ```bash
47 make install
48 ```
49
50 ## How to run
51
52 ## Configuration
53
54 xds-server configuration is driven by a JSON config file (`config.json`).
55
56 Here is the logic to determine which `config.json` file will be used:
57 1. from command line option: `--config myConfig.json`
58 2. `$HOME/.xds/config.json` file
59 3. `<current dir>/config.json` file
60 4. `<xds-server executable dir>/config.json` file
61
62 Supported fields in configuration file are:
63 ```json
64 {
65     "webAppDir": "location of client dashboard (default: webapp/dist)",
66     "shareRootDir": "root directory where projects will be copied",
67     "logsDir": "directory to store logs (eg. syncthing output)",
68     "sdkRootDir": "root directory where cross SDKs are installed",
69     "syncthing": {
70         "binDir": "syncthing binaries directory (default: executable directory)",
71         "home": "syncthing home directory (usually .../syncthing-config)",
72         "gui-address": "syncthing gui url (default http://localhost:8384)",
73         "gui-apikey": "syncthing api-key to use (default auto-generated)"
74     }
75 }
76 ```
77
78 >**NOTE:** environment variables are supported by using `${MY_VAR}` syntax.
79
80 ## Start-up
81
82 Use `xds-server-start.sh` script to start all requested tools
83 ```bash
84 /usr/local/bin/xds-server-start.sh
85 ```
86
87 >**NOTE** you can define some environment variables to setup for example
88 config file `XDS_CONFFILE` or change logs directory `LOGDIR`.
89 See head section of `xds-server-start.sh` file to see all configurable variables.
90
91 ## Install XDS-server in AGL SDK docker container
92
93 XDS-server has been designed to easily cross compile
94 [AGL](https://www.automotivelinux.org/) applications. That's why XDS-server is
95 integrated in AGL SDK docker container.
96
97 >**NOTE** For more info about AGL SDK docker container, please refer to
98 [AGL SDK Quick Setup](http://docs.automotivelinux.org/docs/getting_started/en/dev/reference/setup-sdk-environment.html)
99
100 ### Create XDS AGL docker worker container
101
102 You can either load a pre-build docker image or rebuild this image with latest
103 source code.
104
105 * load pre-build docker image:
106 ```bash
107 wget http://iot.bzh/download/public/2017/XDS/docker/docker_agl_worker-xds-3.2.tar.xz | docker load
108 ```
109
110 *  OR execute following commands to rebuild docker image:
111 ```bash
112 git clone https://git.automotivelinux.org/AGL/docker-worker-generator
113 cd docker-worker-generator
114 make build FLAVOUR=xds
115 ```
116
117 You should get `docker.automotivelinux.org/agl/worker-xds:X.Y` image
118
119 ```bash
120 docker images
121 REPOSITORY                                      TAG                 IMAGE ID            CREATED             SIZE
122 docker.automotivelinux.org/agl/worker-xds       3.2                 786d65b2792c        6 days ago          602MB
123 ```
124
125 ### Start XDS AGL docker worker container
126
127 Use provided script to create a new docker image and start a new container:
128 ```bash
129 > ./docker-worker-generator/contrib/create_container 0 docker.automotivelinux.org/agl/worker-xds:3.2
130
131 > docker ps
132 CONTAINER ID        IMAGE                                               COMMAND                  CREATED              STATUS              PORTS                                                                                         NAMES
133 b985d81af40c        docker.automotivelinux.org/agl/worker-xds:3.2       "/usr/bin/wait_for..."   6 days ago           Up 4 hours          0.0.0.0:8000->8000/tcp, 0.0.0.0:69->69/udp, 0.0.0.0:10809->10809/tcp, 0.0.0.0:2222->22/tcp    agl-worker-seb-laptop-0-seb
134 ```
135
136 This container exposes following ports:
137   - 8000 : XDS-server to serve XDS Dashboard
138   - 69   : TFTP
139   - 2222 : ssh
140
141 Now start xds-server inside this container:
142 ```bash
143 > ssh -p 2222 devel@localhost
144 [15:59:58] devel@agl-worker-seb-laptop-0-seb:~$ /usr/local/bin/xds-server-start.sh
145 ### Configuration in config.json:
146 {
147     "webAppDir": "/usr/local/bin/www-xds-server",
148     "shareRootDir": "/home/devel/.xds/share",
149     "logsDir": "/tmp/xds-server/logs",
150     "sdkRootDir": "/xdt/sdk",
151     "syncthing": {
152         "binDir": "/usr/local/bin",
153         "home": "/home/devel/.xds/syncthing-config",
154         "gui-address": "http://localhost:8384",
155         "gui-apikey": "1234abcezam"
156     }
157 }
158
159 ### Start XDS server
160 nohup /usr/local/bin/xds-server --config /home/devel/.xds/config.json -log warn > /tmp/xds-server/logs/xds-server.log 2>&1
161 pid=22379
162 ```
163
164 You can now connect your browser to XDS-server (running by default on port 8000):
165 [http://localhost:8000](http://localhost:8000)
166
167
168 ## Debugging
169
170 ### XDS server architecture
171
172 The server part is written in *Go* and web app / dashboard (client part) in
173 *Angular2*.
174
175 ```
176 |
177 +-- bin/                where xds-server binary file will be built
178 |
179 +-- config.json.in      example of config.json file
180 |
181 +-- glide.yaml          Go package dependency file
182 |
183 +-- lib/                sources of server part (Go)
184 |
185 +-- main.go             main entry point of of Web server (Go)
186 |
187 +-- Makefile            makefile including
188 |
189 +-- README.md           this readme
190 |
191 +-- scripts/            hold various scripts used for installation or startup
192 |
193 +-- tools/              temporary directory to hold development tools (like glide)
194 |
195 +-- vendor/             temporary directory to hold Go dependencies packages
196 |
197 +-- webapp/             source client dashboard (Angular2 app)
198 ```
199
200 Visual Studio Code launcher settings can be found into `.vscode/launch.json`.
201
202
203 ## TODO:
204 - replace makefile by build.go to make Windows build support easier
205 - add more tests
206 - add more documentation
207 - add authentication / login (oauth) + HTTPS
208 - enable syncthing user/password + HTTPS