lib/xdsserver/sdk.go

   1 /*
   2  * Copyright (C) 2017-2018 "IoT.bzh"
   3  * Author Sebastien Douheret <sebastien@iot.bzh>
   4  *
   5  * Licensed under the Apache License, Version 2.0 (the "License");
   6  * you may not use this file except in compliance with the License.
   7  * You may obtain a copy of the License at
   8  *
   9  *   http://www.apache.org/licenses/LICENSE-2.0
  10  *
  11  * Unless required by applicable law or agreed to in writing, software
  12  * distributed under the License is distributed on an "AS IS" BASIS,
  13  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  14  * See the License for the specific language governing permissions and
  15  * limitations under the License.
  16  */
  17
  18 package xdsserver
  19
  20 import (
  21         "encoding/json"
  22         "fmt"
  23         "os"
  24         "os/exec"
  25         "path"
  26         "strconv"
  27         "strings"
  28         "time"
  29
  30         common "gerrit.automotivelinux.org/gerrit/src/xds/xds-common.git/golib"
  31         "gerrit.automotivelinux.org/gerrit/src/xds/xds-common.git/golib/eows"
  32         "gerrit.automotivelinux.org/gerrit/src/xds/xds-server/lib/xsapiv1"
  33         "github.com/Sirupsen/logrus"
  34         uuid "github.com/satori/go.uuid"
  35 )
  36
  37 // Definition of scripts used to managed SDKs
  38 const (
  39         scriptAdd          = "add"
  40         scriptDbDump       = "db-dump"
  41         scriptDbUpdate     = "db-update"
  42         scriptGetFamConfig = "get-family-config"
  43         scriptGetSdkInfo   = "get-sdk-info"
  44         scriptRemove       = "remove"
  45 )
  46
  47 var scriptsAll = []string{
  48         scriptAdd,
  49         scriptDbDump,
  50         scriptDbUpdate,
  51         scriptGetFamConfig,
  52         scriptGetSdkInfo,
  53         scriptRemove,
  54 }
  55
  56 var sdkCmdID = 0
  57
  58 // CrossSDK Hold SDK config
  59 type CrossSDK struct {
  60         *Context
  61         sdk        xsapiv1.SDK
  62         scripts    map[string]string
  63         installCmd *eows.ExecOverWS
  64         removeCmd  *eows.ExecOverWS
  65
  66         bufStdout string
  67         bufStderr string
  68 }
  69
  70 // ListCrossSDK List all available and installed SDK  (call "db-dump" script)
  71 func ListCrossSDK(scriptDir string, log *logrus.Logger) ([]xsapiv1.SDK, error) {
  72         sdksList := []xsapiv1.SDK{}
  73
  74         // Retrieve SDKs list and info
  75         cmd := exec.Command(path.Join(scriptDir, scriptDbDump))
  76         stdout, err := cmd.CombinedOutput()
  77         if err != nil {
  78                 return sdksList, fmt.Errorf("Cannot get sdks list: %v", err)
  79         }
  80
  81         if err = json.Unmarshal(stdout, &sdksList); err != nil {
  82                 log.Errorf("SDK %s script output:\n%v\n", scriptDbDump, string(stdout))
  83                 return sdksList, fmt.Errorf("Cannot decode sdk list %v", err)
  84         }
  85
  86         return sdksList, nil
  87 }
  88
  89 // GetSDKInfo Used get-sdk-info script to extract SDK get info from a SDK file/tarball
  90 func GetSDKInfo(scriptDir, url, filename, md5sum string, log *logrus.Logger) (xsapiv1.SDK, error) {
  91         sdk := xsapiv1.SDK{}
  92
  93         args := []string{}
  94         if url != "" {
  95                 args = append(args, "--url", url)
  96         } else if filename != "" {
  97                 args = append(args, "--file", filename)
  98                 if md5sum != "" {
  99                         args = append(args, "--md5", md5sum)
 100                 }
 101         } else {
 102                 return sdk, fmt.Errorf("url of filename must be set")
 103         }
 104
 105         cmd := exec.Command(path.Join(scriptDir, scriptGetSdkInfo), args...)
 106         stdout, err := cmd.CombinedOutput()
 107         if err != nil {
 108                 return sdk, fmt.Errorf("%v %v", string(stdout), err)
 109         }
 110
 111         if err = json.Unmarshal(stdout, &sdk); err != nil {
 112                 log.Errorf("SDK %s script output:\n%v\n", scriptGetSdkInfo, string(stdout))
 113                 return sdk, fmt.Errorf("Cannot decode sdk info %v", err)
 114         }
 115         return sdk, nil
 116 }
 117
 118 // NewCrossSDK creates a new instance of CrossSDK
 119 func NewCrossSDK(ctx *Context, sdk xsapiv1.SDK, scriptDir string) (*CrossSDK, error) {
 120         s := CrossSDK{
 121                 Context: ctx,
 122                 sdk:     sdk,
 123                 scripts: make(map[string]string),
 124         }
 125
 126         // Execute get-config script to retrieve SDK configuration
 127         getConfFile := path.Join(scriptDir, scriptGetFamConfig)
 128         if !common.Exists(getConfFile) {
 129                 return &s, fmt.Errorf("'%s' script file not found in %s", scriptGetFamConfig, scriptDir)
 130         }
 131
 132         cmd := exec.Command(getConfFile)
 133         stdout, err := cmd.CombinedOutput()
 134         if err != nil {
 135                 return &s, fmt.Errorf("Cannot get sdk config using %s: %v", getConfFile, err)
 136         }
 137
 138         err = json.Unmarshal(stdout, &s.sdk.FamilyConf)
 139         if err != nil {
 140                 s.Log.Errorf("SDK config script output:\n%v\n", string(stdout))
 141                 return &s, fmt.Errorf("Cannot decode sdk config %v", err)
 142         }
 143         famName := s.sdk.FamilyConf.FamilyName
 144
 145         // Sanity check
 146         if s.sdk.FamilyConf.RootDir == "" {
 147                 return &s, fmt.Errorf("SDK config not valid (rootDir not set)")
 148         }
 149         if s.sdk.FamilyConf.EnvSetupFile == "" {
 150                 return &s, fmt.Errorf("SDK config not valid (envSetupFile not set)")
 151         }
 152
 153         // Check that other mandatory scripts are present
 154         for _, scr := range scriptsAll {
 155                 s.scripts[scr] = path.Join(scriptDir, scr)
 156                 if !common.Exists(s.scripts[scr]) {
 157                         return &s, fmt.Errorf("Script named '%s' missing in SDK family '%s'", scr, famName)
 158                 }
 159         }
 160
 161         // Fixed default fields value
 162         sdk.LastError = ""
 163         if sdk.Status == "" {
 164                 sdk.Status = xsapiv1.SdkStatusNotInstalled
 165         }
 166
 167         // Sanity check
 168         errMsg := "Invalid SDK definition "
 169         if sdk.Name == "" {
 170                 return &s, fmt.Errorf(errMsg + "(name not set)")
 171         } else if sdk.Profile == "" {
 172                 return &s, fmt.Errorf(errMsg + "(profile not set)")
 173         } else if sdk.Version == "" {
 174                 return &s, fmt.Errorf(errMsg + "(version not set)")
 175         } else if sdk.Arch == "" {
 176                 return &s, fmt.Errorf(errMsg + "(arch not set)")
 177         }
 178         if sdk.Status == xsapiv1.SdkStatusInstalled {
 179                 if sdk.SetupFile == "" {
 180                         return &s, fmt.Errorf(errMsg + "(setupFile not set)")
 181                 } else if !common.Exists(sdk.SetupFile) {
 182                         return &s, fmt.Errorf(errMsg + "(setupFile not accessible)")
 183                 }
 184                 if sdk.Path == "" {
 185                         return &s, fmt.Errorf(errMsg + "(path not set)")
 186                 } else if !common.Exists(sdk.Path) {
 187                         return &s, fmt.Errorf(errMsg + "(path not accessible)")
 188                 }
 189         }
 190
 191         // Use V3 to ensure that we get same uuid on restart
 192         nm := s.sdk.Name
 193         if nm == "" {
 194                 nm = s.sdk.Profile + "_" + s.sdk.Arch + "_" + s.sdk.Version
 195         }
 196         s.sdk.ID = uuid.NewV3(uuid.FromStringOrNil("sdks"), nm).String()
 197
 198         s.LogSillyf("New SDK: ID=%v, Family=%s, Name=%v", s.sdk.ID[:8], s.sdk.FamilyConf.FamilyName, s.sdk.Name)
 199
 200         return &s, nil
 201 }
 202
 203 // Install a SDK (non blocking command, IOW run in background)
 204 func (s *CrossSDK) Install(file string, force bool, timeout int, args []string, sess *ClientSession) error {
 205
 206         if s.sdk.Status == xsapiv1.SdkStatusInstalled {
 207                 return fmt.Errorf("already installed")
 208         }
 209         if s.sdk.Status == xsapiv1.SdkStatusInstalling {
 210                 return fmt.Errorf("installation in progress")
 211         }
 212
 213         // Compute command args
 214         cmdArgs := []string{}
 215         if file != "" {
 216                 cmdArgs = append(cmdArgs, "--file", file)
 217         } else {
 218                 cmdArgs = append(cmdArgs, "--url", s.sdk.URL)
 219         }
 220         if force {
 221                 cmdArgs = append(cmdArgs, "--force")
 222         }
 223
 224         // Append additional args (passthrough arguments)
 225         if len(args) > 0 {
 226                 cmdArgs = append(cmdArgs, args...)
 227         }
 228
 229         // Unique command id
 230         sdkCmdID++
 231         cmdID := "sdk-install-" + strconv.Itoa(sdkCmdID)
 232
 233         // Create new instance to execute command and sent output over WS
 234         s.installCmd = eows.New(s.scripts[scriptAdd], cmdArgs, sess.IOSocket, sess.ID, cmdID)
 235         s.installCmd.Log = s.Log
 236         if timeout > 0 {
 237                 s.installCmd.CmdExecTimeout = timeout
 238         } else {
 239                 s.installCmd.CmdExecTimeout = 30 * 60 // default 30min
 240         }
 241
 242         // FIXME: temporary hack
 243         s.bufStdout = ""
 244         s.bufStderr = ""
 245         SizeBufStdout := 10
 246         SizeBufStderr := 2000
 247         if valS, ok := os.LookupEnv("XDS_SDK_BUF_STDOUT"); ok {
 248                 if valI, err := strconv.Atoi(valS); err == nil {
 249                         SizeBufStdout = valI
 250                 }
 251         }
 252         if valS, ok := os.LookupEnv("XDS_SDK_BUF_STDERR"); ok {
 253                 if valI, err := strconv.Atoi(valS); err == nil {
 254                         SizeBufStderr = valI
 255                 }
 256         }
 257
 258         // Define callback for output (stdout+stderr)
 259         s.installCmd.OutputCB = func(e *eows.ExecOverWS, stdout, stderr string) {
 260                 // paranoia
 261                 data := e.UserData
 262                 sdkID := (*data)["SDKID"].(string)
 263                 if sdkID != s.sdk.ID {
 264                         s.Log.Errorln("BUG: sdk ID differs: %v != %v", sdkID, s.sdk.ID)
 265                 }
 266
 267                 // IO socket can be nil when disconnected
 268                 so := s.sessions.IOSocketGet(e.Sid)
 269                 if so == nil {
 270                         s.Log.Infof("%s not emitted: WS closed (sid:%s, msgid:%s)", xsapiv1.EVTSDKInstall, e.Sid, e.CmdID)
 271                         return
 272                 }
 273
 274                 if s.LogLevelSilly {
 275                         s.Log.Debugf("%s emitted - WS sid[4:] %s - id:%s - SDK ID:%s:", xsapiv1.EVTSDKInstall, e.Sid[4:], e.CmdID, sdkID[:16])
 276                         if stdout != "" {
 277                                 s.Log.Debugf("STDOUT <<%v>>", strings.Replace(stdout, "\n", "\\n", -1))
 278                         }
 279                         if stderr != "" {
 280                                 s.Log.Debugf("STDERR <<%v>>", strings.Replace(stderr, "\n", "\\n", -1))
 281                         }
 282                 }
 283
 284                 // Temporary "Hack": Buffered sent data to avoid freeze in web Browser
 285                 // FIXME: remove bufStdout & bufStderr and implement better algorithm
 286                 s.bufStdout += stdout
 287                 s.bufStderr += stderr
 288                 if len(s.bufStdout) > SizeBufStdout || len(s.bufStderr) > SizeBufStderr {
 289                         // Emit event
 290                         err := (*so).Emit(xsapiv1.EVTSDKInstall, xsapiv1.SDKManagementMsg{
 291                                 CmdID:     e.CmdID,
 292                                 Timestamp: time.Now().String(),
 293                                 Sdk:       s.sdk,
 294                                 Progress:  0, // TODO add progress
 295                                 Exited:    false,
 296                                 Stdout:    s.bufStdout,
 297                                 Stderr:    s.bufStderr,
 298                         })
 299                         if err != nil {
 300                                 s.Log.Errorf("WS Emit : %v", err)
 301                         }
 302                         s.bufStdout = ""
 303                         s.bufStderr = ""
 304                 }
 305         }
 306
 307         // Define callback for output
 308         s.installCmd.ExitCB = func(e *eows.ExecOverWS, code int, exitError error) {
 309                 // paranoia
 310                 data := e.UserData
 311                 sdkID := (*data)["SDKID"].(string)
 312                 if sdkID != s.sdk.ID {
 313                         s.Log.Errorln("BUG: sdk ID differs: %v != %v", sdkID, s.sdk.ID)
 314                 }
 315
 316                 s.Log.Infof("Command SDK ID %s [Cmd ID %s]  exited: code %d, exitError: %v", sdkID[:16], e.CmdID, code, exitError)
 317
 318                 // IO socket can be nil when disconnected
 319                 so := s.sessions.IOSocketGet(e.Sid)
 320                 if so == nil {
 321                         s.Log.Infof("%s (exit) not emitted - WS closed (id:%s)", xsapiv1.EVTSDKInstall, e.CmdID)
 322                         return
 323                 }
 324
 325                 // Emit event remaining data in bufStdout/err
 326                 if len(s.bufStderr) > 0 || len(s.bufStdout) > 0 {
 327                         err := (*so).Emit(xsapiv1.EVTSDKInstall, xsapiv1.SDKManagementMsg{
 328                                 CmdID:     e.CmdID,
 329                                 Timestamp: time.Now().String(),
 330                                 Sdk:       s.sdk,
 331                                 Progress:  50, // TODO add progress
 332                                 Exited:    false,
 333                                 Stdout:    s.bufStdout,
 334                                 Stderr:    s.bufStderr,
 335                         })
 336                         if err != nil {
 337                                 s.Log.Errorf("WS Emit : %v", err)
 338                         }
 339                         s.bufStdout = ""
 340                         s.bufStderr = ""
 341                 }
 342
 343                 // Update SDK status
 344                 if code == 0 && exitError == nil {
 345                         s.sdk.LastError = ""
 346                         s.sdk.Status = xsapiv1.SdkStatusInstalled
 347
 348                         // FIXME: better update it using monitoring install dir (inotify)
 349                         // (see sdks.go / monitorSDKInstallation )
 350                         // Update SetupFile when n
 351                         if s.sdk.SetupFile == "" {
 352                                 sdkDef, err := GetSDKInfo(s.sdk.FamilyConf.ScriptsDir, s.sdk.URL, "", "", s.Log)
 353                                 if err != nil || sdkDef.SetupFile == "" {
 354                                         code = 1
 355                                         s.sdk.LastError = "Installation failed (cannot init SetupFile path)"
 356                                         s.sdk.Status = xsapiv1.SdkStatusNotInstalled
 357                                 } else {
 358                                         s.sdk.SetupFile = sdkDef.SetupFile
 359                                 }
 360                         }
 361
 362                 } else {
 363                         s.sdk.LastError = "Installation failed (code " + strconv.Itoa(code) +
 364                                 ")"
 365                         if exitError != nil {
 366                                 s.sdk.LastError = ". Error: " + exitError.Error()
 367                         }
 368                         s.sdk.Status = xsapiv1.SdkStatusNotInstalled
 369                 }
 370
 371                 emitErr := ""
 372                 if exitError != nil {
 373                         emitErr = exitError.Error()
 374                 }
 375                 if emitErr == "" && s.sdk.LastError != "" {
 376                         emitErr = s.sdk.LastError
 377                 }
 378
 379                 // Emit event
 380                 errSoEmit := (*so).Emit(xsapiv1.EVTSDKInstall, xsapiv1.SDKManagementMsg{
 381                         CmdID:     e.CmdID,
 382                         Timestamp: time.Now().String(),
 383                         Sdk:       s.sdk,
 384                         Progress:  100,
 385                         Exited:    true,
 386                         Code:      code,
 387                         Error:     emitErr,
 388                 })
 389                 if errSoEmit != nil {
 390                         s.Log.Errorf("WS Emit : %v", errSoEmit)
 391                 }
 392
 393                 // Cleanup command for the next time
 394                 s.installCmd = nil
 395         }
 396
 397         // User data (used within callbacks)
 398         data := make(map[string]interface{})
 399         data["SDKID"] = s.sdk.ID
 400         s.installCmd.UserData = &data
 401
 402         // Start command execution
 403         s.Log.Infof("Install SDK %s: cmdID=%v, cmd=%v, args=%v", s.sdk.Name, s.installCmd.CmdID, s.installCmd.Cmd, s.installCmd.Args)
 404
 405         s.sdk.Status = xsapiv1.SdkStatusInstalling
 406         s.sdk.LastError = ""
 407
 408         err := s.installCmd.Start()
 409
 410         return err
 411 }
 412
 413 // AbortInstallRemove abort an install or remove command
 414 func (s *CrossSDK) AbortInstallRemove(timeout int) error {
 415
 416         if s.installCmd == nil {
 417                 return fmt.Errorf("no installation in progress for this sdk")
 418         }
 419
 420         s.sdk.Status = xsapiv1.SdkStatusNotInstalled
 421         return s.installCmd.Signal("SIGKILL")
 422 }
 423
 424 // Remove Used to remove/uninstall a SDK
 425 func (s *CrossSDK) Remove(timeout int, sess *ClientSession) error {
 426
 427         if s.sdk.Status != xsapiv1.SdkStatusInstalled {
 428                 return fmt.Errorf("this sdk is not installed")
 429         }
 430
 431         // IO socket can be nil when disconnected
 432         so := s.sessions.IOSocketGet(sess.ID)
 433         if so == nil {
 434                 return fmt.Errorf("Cannot retrieve socket ")
 435         }
 436
 437         s.sdk.Status = xsapiv1.SdkStatusUninstalling
 438
 439         // Emit Remove event
 440         if err := (*so).Emit(xsapiv1.EVTSDKStateChange, s.sdk); err != nil {
 441                 s.Log.Warningf("Cannot notify SDK remove: %v", err)
 442         }
 443
 444         script := s.scripts[scriptRemove]
 445         args := s.sdk.Path
 446         s.Log.Infof("Uninstall SDK %s: script=%v args=%v", s.sdk.Name, script, args)
 447
 448         cmd := exec.Command(script, args)
 449         stdout, err := cmd.CombinedOutput()
 450
 451         s.sdk.Status = xsapiv1.SdkStatusNotInstalled
 452         s.Log.Debugf("SDK uninstall err %v, output:\n %v", err, string(stdout))
 453
 454         if err != nil {
 455
 456                 // Emit Remove event
 457                 evData := xsapiv1.SDKManagementMsg{
 458                         Timestamp: time.Now().String(),
 459                         Sdk:       s.sdk,
 460                         Progress:  100,
 461                         Exited:    true,
 462                         Code:      1,
 463                         Error:     err.Error(),
 464                 }
 465                 if err := (*so).Emit(xsapiv1.EVTSDKRemove, evData); err != nil {
 466                         s.Log.Warningf("Cannot notify SDK remove end: %v", err)
 467                 }
 468
 469                 return fmt.Errorf("Error while uninstalling sdk: %v", err)
 470         }
 471
 472         // Emit Remove event
 473         evData := xsapiv1.SDKManagementMsg{
 474                 Timestamp: time.Now().String(),
 475                 Sdk:       s.sdk,
 476                 Progress:  100,
 477                 Exited:    true,
 478                 Code:      0,
 479                 Error:     "",
 480         }
 481         if err := (*so).Emit(xsapiv1.EVTSDKRemove, evData); err != nil {
 482                 s.Log.Warningf("Cannot notify SDK remove end: %v", err)
 483         }
 484
 485         return nil
 486 }
 487
 488 // Get Return SDK definition
 489 func (s *CrossSDK) Get() *xsapiv1.SDK {
 490         return &s.sdk
 491 }
 492
 493 // GetEnvCmd returns the command used to initialized the environment
 494 func (s *CrossSDK) GetEnvCmd() []string {
 495         return []string{"source", s.sdk.SetupFile}
 496 }