卷2:第2章 Firefox發(fā)布工程

2018-02-24 15:55 更新

原文鏈接:http://www.aosabook.org/en/cmake.html

作者:Chris AtLee,?Lukas Blakk,?John O'Duinn,?Armen Zambrano Gasparian

最近,Mozilla發(fā)布工程組在Firefox的發(fā)布自動化方面取得了非常多的進步。我們已經減少了在簽字和發(fā)送通知時對人工參與的要求,并且自動化了許多其它的小的手工步驟,因為流程中每個手工步驟都可能犯錯。盡管仍不算完美,我們始終在盡最大努力自動化發(fā)布過程,最終目標是真正的一鍵式發(fā)布;最小化人工干預將會消除我們在之前那種半人工半自動化的發(fā)布過程中所經歷過的重復勞動和許多令人頭疼的事情。在本章,我們將帶著你走入并領略構成完整的Firefox快速發(fā)布系統(tǒng)的腳本和架構的世界(到Firefox 10為止)。

你將會看到一個可發(fā)布的Mercurial變更集是如何成為候選發(fā)布,進而成為公開發(fā)布的,此時就對全世界每日高達4億5千多萬的用戶完全開放了。我們將會從構建和代碼簽名開始,接下來是定制的合作伙伴和本地化重打包,QA過程,以及如何為每個支持的版本、平臺和本地化生成更新。每一個步驟都必須正確的完成,一個發(fā)布才可以被推送到Mozilla社區(qū)的鏡像網(wǎng)絡上供用戶下載。

我們將會看到一些旨在改善此流程的決定;例如,健康檢查腳本,幫助消除了許多人工錯誤導致的問題;自動簽名腳本;移動發(fā)布集成到桌面發(fā)布流程;補丁程序,用來創(chuàng)建更新;以及應用更新服務(AUS - Application Update Service),將更新發(fā)送給使用著各種不同版本的用戶。

本章描述了如何產生Firefox發(fā)布構建的機制,大部分篇幅都在講解一次構建開始后發(fā)布流程的各個關鍵步驟。但是,在發(fā)布工程開始產生發(fā)布構建之前,還需要做足夠的復雜的跨團隊溝通。因此,我們就從這里開始吧。

2.1 在開始一個發(fā)布之前的N個工作

圖2.2:完整的發(fā)布時間線,以chemspill為例

2.2. 進入構建

誰來決定進入構建

在發(fā)布開始之前,一個人被指定負責協(xié)調整個發(fā)布過程。他/她需要參加類選會議、理解所有項目背景、公平的仲裁bug嚴重性上的爭議、批準最新的變更、做出艱難的放棄決定等等。最后,在發(fā)布日,這個角色在現(xiàn)場負責與各個團隊的所有溝通:開發(fā)、QA、發(fā)布工程、網(wǎng)站開發(fā)、公共關系、市場等等。

這個角色在不同的公司有不同的稱呼:發(fā)布經理、發(fā)布工程師、Program Manager、項目經理、產品經理、產品沙皇、發(fā)布舵手等等。本章將使用“發(fā)布協(xié)調員”這一稱謂,因為我們覺得這個詞最清楚的表達了該角色在我們的流程里起的作用。重點在于這個角色及其代表的最終權威能夠被每個人所清楚的理解,無論其背景或之前在其它地方的工作經歷。在發(fā)布日,每個人都知道自己應該遵守和信任這個角色所做出的協(xié)調決定。

發(fā)布協(xié)調員也是發(fā)布工程之外唯一一個有權在重大問題出現(xiàn)后發(fā)出“停止構建”郵件的人。任何疑似重大問題報告也會被發(fā)送到發(fā)布協(xié)調員,由他/她來評估及做出go/no-go的決定,并及時的將此決定周知到每個人。在發(fā)布日,我們所有人必須遵守和信任這個角色所作出的協(xié)調決定。

如何發(fā)出“進入構建”信號?

早先通過IRC或者電話口頭的通知帶來了很多誤解,時常給進行中的發(fā)布造成問題。因此,我們現(xiàn)在要求“go to build”信號通過電子郵件發(fā)送到一個包含了與發(fā)布過程相關的所有團隊的每個人的郵件列表。郵件標題包含“go to build”加上產品名及版本號,例如:go to build Firefox 6.0.1。

類似的,如果出現(xiàn)了問題,發(fā)布協(xié)調員會發(fā)送一個新的“all stop”郵件給同樣的郵件列表。我們發(fā)現(xiàn)另外一種做法——回復該發(fā)布的最新的郵件——是不行的,因為一些客戶端的郵件會話功能會造成一些人注意不到藏的很深的“all stop”郵件。

在“Go to Build”郵件里有些什么?

  1. 構建的代碼;理想情況下,是指向要生成發(fā)布構建的源碼庫里的特定變更的URL。

a) 類似“使用最新代碼”這樣的指令是絕對不行的;曾經有一個發(fā)布,在“go to build”郵件發(fā)出之后而構建開始之前,一個好心的開發(fā)未經批準提交了一個變更到一個錯誤的分支,導致發(fā)布將此變更包括在構建中。幸好這個錯誤在交付之前被發(fā)現(xiàn)了,但是,我們因而完全終止、全部重新構建,并推遲了發(fā)布。

b) 在象CVS這樣的基于時間的版本控制系統(tǒng)里,要十分明確的使用準確的時間;精確到秒,并指定時區(qū)。曾經有一個發(fā)布,在Firefox還使用CVS的時候,發(fā)布協(xié)調員指定了一個構建的截至時間但是未說明時區(qū)。當發(fā)布工程注意到缺失時區(qū)信息時,發(fā)布協(xié)調員睡著了。發(fā)布工程正確的猜想應該是本地時間(加利福尼亞)。然而,在一次深夜的發(fā)布中,我們將PST看作了PDT,結果丟了最后一個關鍵的bug修復。這個錯誤在交付之前被QA發(fā)現(xiàn)了,但是我們不得不停止并使用新的截至時間重新構建。

2.對于特定發(fā)布的清晰的緊迫感。聽起來顯而易見,但在處理一些重要的特例時非常重要,簡單總結如下:

a) 一些發(fā)布是例行的,可以在正常工作時間完成。這些都是預先安排的發(fā)布,也會按時完成,不存在緊急性。當然,所有發(fā)布的構建都需要及時的創(chuàng)建,只是不需要發(fā)布工程師熬夜趕工去完成。我們會事先做好安排,人們只需要在正常上班時間工作就可保證每件事情都按時完成。這將保持大家的體力,以便更好的應對那些意料之外的緊急工作。

b) 一些發(fā)布屬于chemspill這樣緊急性的,需要爭分奪秒。典型的例子包括修復公開的安全漏洞,或者修復影響大量用戶的崩潰性問題。Chemspills需要被盡快創(chuàng)建,而不是按預先的安排。

c) 一些發(fā)布在例行和chemspill之間轉換。例如,當一個例行發(fā)布的安全修復意外的泄漏了,就變成了一個chemspill發(fā)布。當一個業(yè)務需求如給即將到來的一次會議公告準備的“特供預覽”發(fā)布,由于商務原因被延遲時,就從chemspill發(fā)布變?yōu)槔邪l(fā)布。

d) 一些發(fā)布的性質存在爭議,因為對相同的修復存在不同角度的理解。

正是發(fā)布協(xié)調員這個角色,負責平衡所有這些事實和觀點,達成決定,并將有關緊迫性的決定清楚一致的周知到所有團隊。一旦有新的信息,發(fā)布協(xié)調員會重新評估和周知。一些團隊認為一個發(fā)布是chemspill而另外的團隊認為是例行的,這種情形對跨團隊的合作是非常有害的。

最后,這些郵件對于度量一次發(fā)布中的時間分配非常有用。盡管它們的準確度不會超過掛鐘的時間粒度,但對于我們判斷下一步應該把工作集中在哪里以加快速度來說已經是非常有用的了。正如古老的格言所說,先有度量,才能改進。

在Firefox的beta周期里,我們也在做mozilla-beta庫的周發(fā)布。每個這樣的beta發(fā)布都要經過我們通常的完整的發(fā)布自動化,與常規(guī)的最終發(fā)布幾乎一模一樣。為了最小化意外,發(fā)布自動化流程或底層架構在開始最終發(fā)布構建之前不能有任何未經測試的變化。

2.3. 打標簽,構建,源碼壓縮包

圖2.4: 對每一個語言進行Firefox重打包

現(xiàn)在,我們將整個repacks分成六個作業(yè),放在六臺不同的機器上并行執(zhí)行。這種方法將時間減少到了原來的六分之一。這也使得我們可以在個別repack失敗時重做一部分作業(yè),而不是全部。我們可以將repacks分成更多、更小的并行的作業(yè),但發(fā)現(xiàn)這將會占用太多的機器,進而影響到在持續(xù)集成系統(tǒng)上運行的由開發(fā)啟動的無關作業(yè)。

移動發(fā)布(Andoid)流程稍有不同,因為我們僅產生兩個安裝包:一個英語版的,一個多語言版的將一打語言一塊放進安裝包里而不是每個獨立的構建放一個。多語言版本的大小是一個問題,尤其是對移動設備的慢速下載而言??赡艿囊粋€改進是其它語言按需請求并從addons.mozilla.org取得。

在圖2.4里,可以看到語言信息依賴三個不同的源:shipped_locales,l10_changesets 和 l10n-changesets_mobile-release.json。(計劃合并成一個統(tǒng)一的JSON文件)這些文件包含不同本地化的信息以及某些平臺例外。特別的,對于某個給定的本地化,我們需要知道對于給定的發(fā)布使用庫的哪個修訂,以及是否它可以用于所有支持的平臺(例如,Mac上的日語來自于一個不同的庫)。Desktop發(fā)布有兩個這種文件,而移動發(fā)布有一個(此JSON文件包含平臺列表和變更集)。

誰來決定發(fā)布哪種語言呢?首先,本地化負責人自己提名特定的變更集,然后由Mozilla的本地化小組評審,顯示在一個web儀表盤里,其中列出了每種語言需要的變更集。發(fā)布協(xié)調員也會在發(fā)出“go to build”郵件前進行評審。發(fā)布的時候就可以獲取變更集列表,加入到重打包中。

除了本地化重打包以為,我們還進行合作伙伴重打包。這是為希望定制其客戶體驗的各個合作伙伴而當定制的構建。主要的變化是定制的書簽、主頁和搜索引擎,但是很多其它的事情也可以被改變。這些定制的構建是為最新的Firefox發(fā)布生成的,不適用于beta版。

2.5. 簽名

為了讓用戶肯定他們下載的Firefox是真實的來自Mozilla且未經篡改的版本,我們使用了幾種不同類型的數(shù)字簽名。

第一種簽名用于Windows版本,我們使用了Microsoft Authenticode(signcode)簽名鍵去簽署.exe和.dll文件。Windows可以使用這些簽名來驗證應用來自可信賴源。我們還用Authenticode鍵對Firefox的安裝程序進行的簽名。

接下來我們使用GPG為所有平臺上的所有版本生成一系列MD5和SHA1校驗和,為校驗和文件及所有構建和安裝程序生成分割的GPG簽名。這些簽名供鏡像網(wǎng)站及其它社區(qū)成員進行下載驗證。

出于安全目的,我們有一個專門的通過防火墻和VPN與外部鏈接隔離的簽名機器。Keyphrases, password和keystores通過安全通道在發(fā)布工程師間傳送,經常是親自取送,以最小化泄漏的風險。

以上內容是否對您有幫助:
在線筆記
App下載
App下載

掃描二維碼

下載編程獅App

公眾號
微信公眾號

編程獅公眾號