lib/xdsserver/sdk.go

   1 /*
   2  * Copyright (C) 2017-2018 "IoT.bzh"
   3  * Author Sebastien Douheret <sebastien@iot.bzh>
   4  *
   5  * Licensed under the Apache License, Version 2.0 (the "License");
   6  * you may not use this file except in compliance with the License.
   7  * You may obtain a copy of the License at
   8  *
   9  *   http://www.apache.org/licenses/LICENSE-2.0
  10  *
  11  * Unless required by applicable law or agreed to in writing, software
  12  * distributed under the License is distributed on an "AS IS" BASIS,
  13  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  14  * See the License for the specific language governing permissions and
  15  * limitations under the License.
  16  */
  17
  18 package xdsserver
  19
  20 import (
  21         "encoding/json"
  22         "fmt"
  23         "os/exec"
  24         "path"
  25         "strconv"
  26         "strings"
  27         "time"
  28
  29         common "gerrit.automotivelinux.org/gerrit/src/xds/xds-common.git/golib"
  30         "gerrit.automotivelinux.org/gerrit/src/xds/xds-common.git/golib/eows"
  31         "gerrit.automotivelinux.org/gerrit/src/xds/xds-server/lib/xsapiv1"
  32         "github.com/Sirupsen/logrus"
  33         uuid "github.com/satori/go.uuid"
  34 )
  35
  36 // Definition of scripts used to managed SDKs
  37 const (
  38         scriptAdd          = "add"
  39         scriptDbDump       = "db-dump"
  40         scriptDbUpdate     = "db-update"
  41         scriptGetFamConfig = "get-family-config"
  42         scriptGetSdkInfo   = "get-sdk-info"
  43         scriptRemove       = "remove"
  44 )
  45
  46 var scriptsAll = []string{
  47         scriptAdd,
  48         scriptDbDump,
  49         scriptDbUpdate,
  50         scriptGetFamConfig,
  51         scriptGetSdkInfo,
  52         scriptRemove,
  53 }
  54
  55 var sdkCmdID = 0
  56
  57 // CrossSDK Hold SDK config
  58 type CrossSDK struct {
  59         *Context
  60         sdk        xsapiv1.SDK
  61         scripts    map[string]string
  62         installCmd *eows.ExecOverWS
  63         removeCmd  *eows.ExecOverWS
  64 }
  65
  66 // ListCrossSDK List all available and installed SDK  (call "db-dump" script)
  67 func ListCrossSDK(scriptDir string, update bool, log *logrus.Logger) ([]xsapiv1.SDK, error) {
  68         sdksList := []xsapiv1.SDK{}
  69
  70         // First update sdk DB when requested
  71         if update {
  72                 out, err := UpdateSDKDb(scriptDir, log)
  73                 if err != nil {
  74                         log.Errorf("SDK DB update failure (%v): %v", err, out)
  75                         return sdksList, fmt.Errorf("Error while updating SDK DB (%v)", err)
  76                 }
  77         }
  78
  79         // Retrieve SDKs list and info
  80         cmd := exec.Command(path.Join(scriptDir, scriptDbDump))
  81         stdout, err := cmd.CombinedOutput()
  82         if err != nil {
  83                 return sdksList, fmt.Errorf("Cannot get sdks list: %v", err)
  84         }
  85
  86         if err = json.Unmarshal(stdout, &sdksList); err != nil {
  87                 log.Errorf("SDK %s script output:\n%v\n", scriptDbDump, string(stdout))
  88                 return sdksList, fmt.Errorf("Cannot decode sdk list %v", err)
  89         }
  90
  91         return sdksList, nil
  92 }
  93
  94 // GetSDKInfo Used get-sdk-info script to extract SDK get info from a SDK file/tarball
  95 func GetSDKInfo(scriptDir, url, filename, md5sum string, log *logrus.Logger) (xsapiv1.SDK, error) {
  96         sdk := xsapiv1.SDK{}
  97
  98         args := []string{}
  99         if url != "" {
 100                 args = append(args, "--url", url)
 101         } else if filename != "" {
 102                 args = append(args, "--file", filename)
 103                 if md5sum != "" {
 104                         args = append(args, "--md5", md5sum)
 105                 }
 106         } else {
 107                 return sdk, fmt.Errorf("url of filename must be set")
 108         }
 109
 110         cmd := exec.Command(path.Join(scriptDir, scriptGetSdkInfo), args...)
 111         stdout, err := cmd.CombinedOutput()
 112         if err != nil {
 113                 return sdk, fmt.Errorf("%v %v", string(stdout), err)
 114         }
 115
 116         if err = json.Unmarshal(stdout, &sdk); err != nil {
 117                 log.Errorf("SDK %s script output:\n%v\n", scriptGetSdkInfo, string(stdout))
 118                 return sdk, fmt.Errorf("Cannot decode sdk info %v", err)
 119         }
 120         return sdk, nil
 121 }
 122
 123 // UpdateSDKDb Used db-update script to update SDK database
 124 func UpdateSDKDb(scriptDir string, log *logrus.Logger) (string, error) {
 125         args := []string{}
 126         cmd := exec.Command(path.Join(scriptDir, scriptDbUpdate), args...)
 127         stdout, err := cmd.CombinedOutput()
 128
 129         return string(stdout), err
 130 }
 131
 132 // NewCrossSDK creates a new instance of CrossSDK
 133 func NewCrossSDK(ctx *Context, sdk xsapiv1.SDK, scriptDir string) (*CrossSDK, error) {
 134         s := CrossSDK{
 135                 Context: ctx,
 136                 sdk:     sdk,
 137                 scripts: make(map[string]string),
 138         }
 139
 140         // Execute get-config script to retrieve SDK configuration
 141         getConfFile := path.Join(scriptDir, scriptGetFamConfig)
 142         if !common.Exists(getConfFile) {
 143                 return &s, fmt.Errorf("'%s' script file not found in %s", scriptGetFamConfig, scriptDir)
 144         }
 145
 146         cmd := exec.Command(getConfFile)
 147         stdout, err := cmd.CombinedOutput()
 148         if err != nil {
 149                 return &s, fmt.Errorf("Cannot get sdk config using %s: %v", getConfFile, err)
 150         }
 151
 152         err = json.Unmarshal(stdout, &s.sdk.FamilyConf)
 153         if err != nil {
 154                 s.Log.Errorf("SDK config script output:\n%v\n", string(stdout))
 155                 return &s, fmt.Errorf("Cannot decode sdk config %v", err)
 156         }
 157         famName := s.sdk.FamilyConf.FamilyName
 158
 159         // Sanity check
 160         if s.sdk.FamilyConf.RootDir == "" {
 161                 return &s, fmt.Errorf("SDK config not valid (rootDir not set)")
 162         }
 163         if s.sdk.FamilyConf.EnvSetupFile == "" {
 164                 return &s, fmt.Errorf("SDK config not valid (envSetupFile not set)")
 165         }
 166
 167         // Check that other mandatory scripts are present
 168         for _, scr := range scriptsAll {
 169                 s.scripts[scr] = path.Join(scriptDir, scr)
 170                 if !common.Exists(s.scripts[scr]) {
 171                         return &s, fmt.Errorf("Script named '%s' missing in SDK family '%s'", scr, famName)
 172                 }
 173         }
 174
 175         // Fixed default fields value
 176         sdk.LastError = ""
 177         if sdk.Status == "" {
 178                 sdk.Status = xsapiv1.SdkStatusNotInstalled
 179         }
 180
 181         // Sanity check
 182         errMsg := "Invalid SDK definition "
 183         if sdk.Name == "" {
 184                 return &s, fmt.Errorf(errMsg + "(name not set)")
 185         } else if sdk.Profile == "" {
 186                 return &s, fmt.Errorf(errMsg + "(profile not set)")
 187         } else if sdk.Version == "" {
 188                 return &s, fmt.Errorf(errMsg + "(version not set)")
 189         } else if sdk.Arch == "" {
 190                 return &s, fmt.Errorf(errMsg + "(arch not set)")
 191         }
 192         if sdk.Status == xsapiv1.SdkStatusInstalled {
 193                 if sdk.SetupFile == "" {
 194                         return &s, fmt.Errorf(errMsg + "(setupFile not set)")
 195                 } else if !common.Exists(sdk.SetupFile) {
 196                         return &s, fmt.Errorf(errMsg + "(setupFile not accessible)")
 197                 }
 198                 if sdk.Path == "" {
 199                         return &s, fmt.Errorf(errMsg + "(path not set)")
 200                 } else if !common.Exists(sdk.Path) {
 201                         return &s, fmt.Errorf(errMsg + "(path not accessible)")
 202                 }
 203         }
 204
 205         // Use V3 to ensure that we get same uuid on restart
 206         nm := s.sdk.Name
 207         if nm == "" {
 208                 nm = s.sdk.Profile + "_" + s.sdk.Arch + "_" + s.sdk.Version
 209         }
 210         s.sdk.ID = uuid.NewV3(uuid.FromStringOrNil("sdks"), nm).String()
 211
 212         s.LogSillyf("New SDK: ID=%v, Family=%s, Name=%v", s.sdk.ID[:8], s.sdk.FamilyConf.FamilyName, s.sdk.Name)
 213
 214         return &s, nil
 215 }
 216
 217 // Install a SDK (non blocking command, IOW run in background)
 218 func (s *CrossSDK) Install(file string, force bool, timeout int, args []string, sess *ClientSession) error {
 219
 220         if s.sdk.Status == xsapiv1.SdkStatusInstalled {
 221                 return fmt.Errorf("already installed")
 222         }
 223         if s.sdk.Status == xsapiv1.SdkStatusInstalling {
 224                 return fmt.Errorf("installation in progress")
 225         }
 226
 227         // Compute command args
 228         cmdArgs := []string{}
 229         if file != "" {
 230                 cmdArgs = append(cmdArgs, "--file", file)
 231         } else {
 232                 cmdArgs = append(cmdArgs, "--url", s.sdk.URL)
 233         }
 234         if force {
 235                 cmdArgs = append(cmdArgs, "--force")
 236         }
 237
 238         // Append additional args (passthrough arguments)
 239         if len(args) > 0 {
 240                 cmdArgs = append(cmdArgs, args...)
 241         }
 242
 243         // Unique command id
 244         sdkCmdID++
 245         cmdID := "sdk-install-" + strconv.Itoa(sdkCmdID)
 246
 247         // Create new instance to execute command and sent output over WS
 248         s.installCmd = eows.New(s.scripts[scriptAdd], cmdArgs, sess.IOSocket, sess.ID, cmdID)
 249         s.installCmd.Log = s.Log
 250         s.installCmd.LineTimeSpan = 500 * time.Millisecond.Nanoseconds()
 251         if timeout > 0 {
 252                 s.installCmd.CmdExecTimeout = timeout
 253         } else {
 254                 s.installCmd.CmdExecTimeout = 30 * 60 // default 30min
 255         }
 256
 257         // Define callback for output (stdout+stderr)
 258         s.installCmd.OutputCB = func(e *eows.ExecOverWS, stdout, stderr string) {
 259                 // paranoia
 260                 data := e.UserData
 261                 sdkID := (*data)["SDKID"].(string)
 262                 if sdkID != s.sdk.ID {
 263                         s.Log.Errorln("BUG: sdk ID differs: %v != %v", sdkID, s.sdk.ID)
 264                 }
 265
 266                 // IO socket can be nil when disconnected
 267                 so := s.sessions.IOSocketGet(e.Sid)
 268                 if so == nil {
 269                         s.Log.Infof("%s not emitted: WS closed (sid:%s, msgid:%s)", xsapiv1.EVTSDKManagement, e.Sid, e.CmdID)
 270                         return
 271                 }
 272
 273                 if s.LogLevelSilly {
 274                         s.Log.Debugf("%s emitted - WS sid[4:] %s - id:%s - SDK ID:%s:", xsapiv1.EVTSDKManagement, e.Sid[4:], e.CmdID, sdkID[:16])
 275                         if stdout != "" {
 276                                 s.Log.Debugf("STDOUT <<%v>>", strings.Replace(stdout, "\n", "\\n", -1))
 277                         }
 278                         if stderr != "" {
 279                                 s.Log.Debugf("STDERR <<%v>>", strings.Replace(stderr, "\n", "\\n", -1))
 280                         }
 281                 }
 282
 283                 err := (*so).Emit(xsapiv1.EVTSDKManagement, xsapiv1.SDKManagementMsg{
 284                         CmdID:     e.CmdID,
 285                         Timestamp: time.Now().String(),
 286                         Action:    xsapiv1.SdkMgtActionInstall,
 287                         Sdk:       s.sdk,
 288                         Progress:  0, // TODO add progress
 289                         Exited:    false,
 290                         Stdout:    stdout,
 291                         Stderr:    stderr,
 292                 })
 293                 if err != nil {
 294                         s.Log.Errorf("WS Emit : %v", err)
 295                 }
 296         }
 297
 298         // Define callback for output
 299         s.installCmd.ExitCB = func(e *eows.ExecOverWS, code int, exitError error) {
 300                 // paranoia
 301                 data := e.UserData
 302                 sdkID := (*data)["SDKID"].(string)
 303                 if sdkID != s.sdk.ID {
 304                         s.Log.Errorln("BUG: sdk ID differs: %v != %v", sdkID, s.sdk.ID)
 305                 }
 306
 307                 s.Log.Infof("Command SDK ID %s [Cmd ID %s]  exited: code %d, exitError: %v", sdkID[:16], e.CmdID, code, exitError)
 308
 309                 // IO socket can be nil when disconnected
 310                 so := s.sessions.IOSocketGet(e.Sid)
 311                 if so == nil {
 312                         s.Log.Infof("%s (exit) not emitted - WS closed (id:%s)", xsapiv1.EVTSDKManagement, e.CmdID)
 313                         return
 314                 }
 315
 316                 // Update SDK status
 317                 if code == 0 && exitError == nil {
 318                         s.sdk.LastError = ""
 319                         s.sdk.Status = xsapiv1.SdkStatusInstalled
 320
 321                         // FIXME: better update it using monitoring install dir (inotify)
 322                         // (see sdks.go / monitorSDKInstallation )
 323                         // Update SetupFile when n
 324                         if s.sdk.SetupFile == "" {
 325                                 sdkDef, err := GetSDKInfo(s.sdk.FamilyConf.ScriptsDir, s.sdk.URL, "", "", s.Log)
 326                                 if err != nil || sdkDef.SetupFile == "" {
 327                                         code = 1
 328                                         s.sdk.LastError = "Installation failed (cannot init SetupFile path)"
 329                                         s.sdk.Status = xsapiv1.SdkStatusNotInstalled
 330                                 } else {
 331                                         s.sdk.SetupFile = sdkDef.SetupFile
 332                                 }
 333                         }
 334
 335                 } else {
 336                         s.sdk.LastError = "Installation failed (code " + strconv.Itoa(code) +
 337                                 ")"
 338                         if exitError != nil {
 339                                 s.sdk.LastError = ". Error: " + exitError.Error()
 340                         }
 341                         s.sdk.Status = xsapiv1.SdkStatusNotInstalled
 342                 }
 343
 344                 emitErr := ""
 345                 if exitError != nil {
 346                         emitErr = exitError.Error()
 347                 }
 348                 if emitErr == "" && s.sdk.LastError != "" {
 349                         emitErr = s.sdk.LastError
 350                 }
 351
 352                 // Emit event
 353                 errSoEmit := (*so).Emit(xsapiv1.EVTSDKManagement, xsapiv1.SDKManagementMsg{
 354                         CmdID:     e.CmdID,
 355                         Timestamp: time.Now().String(),
 356                         Action:    xsapiv1.SdkMgtActionInstall,
 357                         Sdk:       s.sdk,
 358                         Progress:  100,
 359                         Exited:    true,
 360                         Code:      code,
 361                         Error:     emitErr,
 362                 })
 363                 if errSoEmit != nil {
 364                         s.Log.Errorf("WS Emit EVTSDKManagement : %v", errSoEmit)
 365                 }
 366
 367                 errSoEmit = s.events.Emit(xsapiv1.EVTSDKStateChange, s.sdk, e.Sid)
 368                 if errSoEmit != nil {
 369                         s.Log.Errorf("WS Emit EVTSDKStateChange : %v", errSoEmit)
 370                 }
 371
 372                 // Cleanup command for the next time
 373                 s.installCmd = nil
 374         }
 375
 376         // User data (used within callbacks)
 377         data := make(map[string]interface{})
 378         data["SDKID"] = s.sdk.ID
 379         s.installCmd.UserData = &data
 380
 381         // Start command execution
 382         s.Log.Infof("Install SDK %s: cmdID=%v, cmd=%v, args=%v", s.sdk.Name, s.installCmd.CmdID, s.installCmd.Cmd, s.installCmd.Args)
 383
 384         s.sdk.Status = xsapiv1.SdkStatusInstalling
 385         s.sdk.LastError = ""
 386
 387         err := s.installCmd.Start()
 388
 389         return err
 390 }
 391
 392 // AbortInstallRemove abort an install or remove command
 393 func (s *CrossSDK) AbortInstallRemove(timeout int) error {
 394
 395         if s.installCmd == nil {
 396                 return fmt.Errorf("no installation in progress for this sdk")
 397         }
 398
 399         s.sdk.Status = xsapiv1.SdkStatusNotInstalled
 400         return s.installCmd.Signal("SIGKILL")
 401 }
 402
 403 // Remove Used to remove/uninstall a SDK
 404 func (s *CrossSDK) Remove(timeout int, sess *ClientSession) error {
 405
 406         if s.sdk.Status != xsapiv1.SdkStatusInstalled {
 407                 return fmt.Errorf("this sdk is not installed")
 408         }
 409
 410         // IO socket can be nil when disconnected
 411         so := s.sessions.IOSocketGet(sess.ID)
 412         if so == nil {
 413                 return fmt.Errorf("Cannot retrieve socket ")
 414         }
 415
 416         s.sdk.Status = xsapiv1.SdkStatusUninstalling
 417
 418         // Notify state change
 419         if err := s.events.Emit(xsapiv1.EVTSDKStateChange, s.sdk, sess.ID); err != nil {
 420                 s.Log.Warningf("Cannot notify SDK remove: %v", err)
 421         }
 422
 423         script := s.scripts[scriptRemove]
 424         args := s.sdk.Path
 425         s.Log.Infof("Uninstall SDK %s: script=%v args=%v", s.sdk.Name, script, args)
 426
 427         // Notify start removing
 428         evData := xsapiv1.SDKManagementMsg{
 429                 Timestamp: time.Now().String(),
 430                 Action:    xsapiv1.SdkMgtActionRemove,
 431                 Sdk:       s.sdk,
 432                 Progress:  0,
 433                 Exited:    false,
 434                 Code:      0,
 435                 Error:     "",
 436         }
 437         if errEmit := (*so).Emit(xsapiv1.EVTSDKManagement, evData); errEmit != nil {
 438                 s.Log.Warningf("Cannot notify EVTSDKManagement end: %v", errEmit)
 439         }
 440
 441         // Run command to remove SDK
 442         cmd := exec.Command(script, args)
 443         stdout, err := cmd.CombinedOutput()
 444
 445         s.sdk.Status = xsapiv1.SdkStatusNotInstalled
 446         s.Log.Debugf("SDK uninstall err %v, output:\n %v", err, string(stdout))
 447
 448         // Emit end of removing process
 449         evData = xsapiv1.SDKManagementMsg{
 450                 Timestamp: time.Now().String(),
 451                 Action:    xsapiv1.SdkMgtActionRemove,
 452                 Sdk:       s.sdk,
 453                 Progress:  100,
 454                 Exited:    true,
 455                 Code:      0,
 456                 Error:     "",
 457         }
 458
 459         // Update error code on error
 460         if err != nil {
 461                 evData.Code = 1
 462                 evData.Error = err.Error()
 463         }
 464
 465         if errEmit := (*so).Emit(xsapiv1.EVTSDKManagement, evData); errEmit != nil {
 466                 s.Log.Warningf("Cannot notify EVTSDKManagement end: %v", errEmit)
 467         }
 468
 469         // Notify state change
 470         if errEmit := s.events.Emit(xsapiv1.EVTSDKStateChange, s.sdk, sess.ID); errEmit != nil {
 471                 s.Log.Warningf("Cannot notify EVTSDKStateChange end: %v", errEmit)
 472         }
 473
 474         if err != nil {
 475                 return fmt.Errorf("Error while uninstalling sdk: %v", err)
 476         }
 477         return nil
 478 }
 479
 480 // Get Return SDK definition
 481 func (s *CrossSDK) Get() *xsapiv1.SDK {
 482         return &s.sdk
 483 }
 484
 485 // GetEnvCmd returns the command used to initialized the environment
 486 func (s *CrossSDK) GetEnvCmd() []string {
 487         if s.sdk.SetupFile == "" {
 488                 return []string{}
 489         }
 490         return []string{"source", s.sdk.SetupFile}
 491
 492 }