Optimalisatie van de mmips

Transcriptie

1 Optimalisatie van de mmips Sander Stuijk Department of Electrical Engineering Electronic Systems

2 2 Inhoudsopgave Veel gestelde vragen Hoe moet ik clipping implementeren? Hoe moet ik de compiler opnieuw compileren? Hoe moet ik forwarding implementeren? Er is iets bijzonders met de loads, maar hoe zit dat precies? Waarom is mijn simulatie zo traag? Waarom stopt mijn mmips simulatie niet? Hoe kan ik eenvoudig mijn forwarding testen? Wat is de maximale frequentie van mijn mmips? Waarom werkt ImProc.exe niet? Waarom is het plaatje dat uit de mmips komt zo donker? Hoe werkt dat nou precies met LCC en die speciale instructies? Opdracht Belangrijke data Vragen

3 3 Hoe moet ik clipping implementeren? void main(void) { int a, b, result; char *buf_i = (char*)x6, *buf_o = (char*)x6654; for (a = ; a < HEIGHT - ; a++) { for (b = ; b < WIDTH - ; b++) { result=(( 5*(int)buf_i[(a - ) * WIDTH + b - ] + -3*(int)buf_i[(a - ) * WIDTH + b ] + 6*(int)buf_i[(a - ) * WIDTH + b + ] + -7*(int)buf_i[ a * WIDTH + b - ] + *(int)buf_i[ a * WIDTH + b ] + -7*(int)buf_i[ a * WIDTH + b + ] + 6*(int)buf_i[(a + ) * WIDTH + b - ] + -3*(int)buf_i[(a + ) * WIDTH + b ] + 5*(int)buf_i[(a + ) * WIDTH + b + ] + 28) / 3); } } } /* Clipping */ if(result<) buf_o[a * WIDTH + b] = ; else if (result > 255) buf_o[a * WIDTH + b] = (char)255; else buf_o[a * WIDTH + b] = result;

4 4 Voeg een custom patroon aan de C code toe #define clip(a,b) ((a) - ((b) + *(int *) x234432)) void main(void) { int a, b, result; char *buf_i = (char*)x6, *buf_o = (char*)x6654; for (a = ; a < HEIGHT - ; a++) { for (b = ; b < WIDTH - ; b++) { result=(( 5*(int)buf_i[(a - ) * WIDTH + b - ] + -3*(int)buf_i[(a - ) * WIDTH + b ] + 6*(int)buf_i[(a - ) * WIDTH + b + ] + -7*(int)buf_i[ a * WIDTH + b - ] + *(int)buf_i[ a * WIDTH + b ] + -7*(int)buf_i[ a * WIDTH + b + ] + 6*(int)buf_i[(a + ) * WIDTH + b - ] + -3*(int)buf_i[(a + ) * WIDTH + b ] + 5*(int)buf_i[(a + ) * WIDTH + b + ] + 28) / 3); } } } /* Clipping */ result = clip(result,result); buf_o[a * WIDTH + b] = result;

5 5 Voeg clipping aan de LCC compiler toe Open het bestand lcc/src/minimips.md in een text editor Wijzig de custom operatie opcode = function code = x3

6 6 Controleer dat clipping gebruikt wordt Open een cygwin shell en voer de volgende commando s uit: ) lcc image.c o mips_mem.bin 2) disas mips_mem.bin less Zoek een assembler instructie met opcode and function code x3

7 7 Voeg de clipping functionaliteit toe aan de mmips rom_addr rom_dout rom_wait rom_r pc c4 a d d mux PCWrite if_instr if_pc mux7 decoder decoder_nb [5-] [25-] [5-] [-6] imm2word [25-2] r_addr_reg [2-6] r_data_reg r_addr_reg2 registers w_data_reg w_addr_reg r_data_reg2 w id_pc id_immediate id_instr_25_ id_data_reg id_data_reg2 id_instr_5_ id_instr 6 shiftleft a d d 2 shiftleft_ jmp mux2 b a l u aluctrl mux5 aluctrl a alu 2 branch_ ctrl hi lo 2 mux8 mux6 ex_alu_result memdev dev_* ram_dout ram_wait ram_din ram_addr ram_r ram_w mem_dmem_data mem_alu_result signextend byte 2 mux3 Pipe_en (This signal goes to all registers on which no write signal is depicted) hazard IFIDWrite [2-6] [3-26] [5-] [5-] id_instr_2_6 id_instr_5_ c3 2 mux4 ex_regdst_addr mem_regdst_addr dmem_wait Signextend enable Hazard Enable ctrl hazard_ctrl id_ctrl_ex_regdst id_ctrl_ex_alusrc id_ctrl_ex_aluop id_ctrl_ex_target id_ctrl_mem_branch id_ctrl_ex_hilo_write id_ctrl_ex_hiloalu_sel id_ctrl_ex_regvalue id_ctrl_mem_memwrite id_ctrl_mem_memread id_ctrl_wb_memtoreg id_ctrl_wb_regwrite ex_ctrl_wb_memtoreg ex_ctrl_wb_regwrite mem_ctrl_wb_memtoreg mem_ctrl_wb_regwrite clk rst

9 9 Compileer de LCC compiler Open een cygwin shell en voer de volgende commando s uit: ) cd /cygdrive/d/mmips/lcc 2) make clean 3) make

10 Inhoudsopgave Veel gestelde vragen Hoe moet ik clipping implementeren? Hoe moet ik de compiler opnieuw compileren? Hoe moet ik forwarding implementeren? Er is iets bijzonders met de loads, maar hoe zit dat precies? Waarom is mijn simulatie zo traag? Waarom stopt mijn mmips simulatie niet? Hoe kan ik eenvoudig mijn forwarding testen? Wat is de maximale frequentie van mijn mmips? Waarom werkt ImProc.exe niet? Waarom is het plaatje dat uit de mmips komt zo donker? Hoe werkt dat nou precies met LCC en die speciale instructies? Opdracht Belangrijke data Vragen

11 mux mux Forwarding optie rom_addr rom_dout rom_wait rom_r pc c4 a d d mux if_instr if_pc mux7 decoder_nb [5-] [25-] imm2word [25-2] r_addr_reg [2-6] r_data_reg r_addr_reg2 registers w_data_reg w_addr_reg r_data_reg2 w id_pc id_immediate id_instr_25_ id_data_reg id_data_reg2 shiftleft mux2 b a d d 2 shiftleft_ jmp a l u 2 mux5 branch_ ctrl hi lo memdev dev_* ram_dout ram_wait ram_din ram_addr ram_r ram_w mem_dmem_data signextend byte 2 decoder a 2 mux8 mux6 ex_alu_result mem_alu_result mux3 PCWrite [5-] [-6] id_instr_5_ id_instr 6 aluctrl Pipe_en (This signal goes to all registers on which no write signal is depicted) hazard IFIDWrite [2-6] [3-26] [5-] [5-] id_instr_2_6 id_instr_5_ c3 2 mux4 ex_regdst_addr mem_regdst_addr dmem_wait Signextend enable Hazard Enable ctrl hazard_ctrl id_ctrl_ex_regdst id_ctrl_ex_alusrc id_ctrl_ex_aluop id_ctrl_ex_target id_ctrl_mem_branch id_ctrl_ex_hilo_write id_ctrl_ex_hiloalu_sel id_ctrl_ex_regvalue id_ctrl_mem_memwrite id_ctrl_mem_memread id_ctrl_wb_memtoreg id_ctrl_wb_regwrite ex_ctrl_wb_memtoreg ex_ctrl_wb_regwrite mem_ctrl_wb_memtoreg mem_ctrl_wb_regwrite clk rst

12 mux mux 2 Forwarding optie 2 rom_addr rom_dout rom_wait rom_r pc c4 a d d mux if_instr if_pc mux7 decoder_nb [5-] [25-] imm2word id_pc id_immediate id_instr_25_ [25-2] r_addr_reg [2-6] r_data_reg id_data_reg r_addr_reg2 registers w_data_reg w_addr_reg r_data_reg2 id_data_reg2 w shiftleft mux2 b a d d 2 shiftleft_ jmp a l u 2 mux5 branch_ ctrl hi lo memdev dev_* ram_dout ram_wait ram_din ram_addr ram_r ram_w mem_dmem_data signextend byte 2 decoder a 2 mux8 mux6 ex_alu_result mem_alu_result mux3 PCWrite [5-] [-6] id_instr_5_ id_instr 6 aluctrl Pipe_en (This signal goes to all registers on which no write signal is depicted) hazard IFIDWrite [2-6] [3-26] [5-] [5-] id_instr_2_6 id_instr_5_ c3 2 mux4 ex_regdst_addr mem_regdst_addr dmem_wait Signextend enable Hazard Enable ctrl hazard_ctrl id_ctrl_ex_regdst id_ctrl_ex_alusrc id_ctrl_ex_aluop id_ctrl_ex_target id_ctrl_mem_branch id_ctrl_ex_hilo_write id_ctrl_ex_hiloalu_sel id_ctrl_ex_regvalue id_ctrl_mem_memwrite id_ctrl_mem_memread id_ctrl_wb_memtoreg id_ctrl_wb_regwrite ex_ctrl_wb_memtoreg ex_ctrl_wb_regwrite mem_ctrl_wb_memtoreg mem_ctrl_wb_regwrite clk rst

13 3 Forwarding - aandachtspunten Register heeft altijd de waarde, ongeacht wat er in dit register wordt geschreven Forward dus nooit register Forward altijd de nieuwste data EX gaat voor MEM, MEM gaat voor WB, WB gaat voor ID De twee register inputs kunnen uit dezelfde of verschillende pipeline stages komen De twee forwarding multiplexers moeten los worden aangestuurd De lees operaties (lw, lb) hebben delay slot, de data uit het geheugen is pas beschikbaar is in de WB stage Er kan een data hazard zijn tussen een load instructie in the MEM stage en een instructie in de ID stage, deze kan niet worden opgelost met forwarding

14 4 Forwarding WB stage Hazard detectie in WB stage else if (memwbregwrite_t == && ((memwbwriteregister_t == ifidreadregister_t) { } hazard = ; (memwbwriteregister_t == ifidreadregister2_t))) Forwading vanuit WB stage if (memwbregwrite_t == && memwbwriteregister_t == ifidreadregister_t && memwbwriteregister_t!= ) { forwarda.write(3); } if (memwbregwrite_t == && memwbwriteregister_t == ifidreadregister2_t && memwbwriteregister_t!= ) { forwardb.write(3); }

16 6 Hoe kan ik loads correct afhandelen Resultaat van load (lb, lw) pas in WB stage beschikbaar (op uitgang mux3) Eerste instructie na load onafhankelijk van load Tweede instructie na load kan hazard genereren Load MEM stage Tweede instructie na load in ID stage Optie Controleer of instructie in EX/MEM stage een load is bus id_ctrl_wb_memtoreg / ex_ctrl_wb_memtoreg ongelijk nul Introduceer een NOP indien load Optie 2 Controleer of instructie in MEM stage een load is bus ex_ctrl_wb_memtoreg ongelijk nul Controleer of er een hazard is Introduceer NOP indien nodig

18 8 Waarom is mijn simulatie zo traag? Controleer met disas hoeveel instructies er uitgevoerd moeten worden om pixel te bewerken en vermenigvuldig dit met het aantal pixels in het plaatje Met behulp van deze procedure kun je mogelijke optimalisaties vinden

20 2 Waarom stopt mijn mmips simulatie niet? Gebruik <ctrl>+<c> om een simulatie te stoppen Het VCD bestand bevat alle signalen tot het moment dat de simulatie wordt gestopt Bekijk de signalen in het VCD bestand om je probleem te vinden Veel voorkomende problemen Een combinatorische lus in de mmips Een fout in de forwarding

22 22 Hoe kan ik eenvoudig mijn forwarding testen? Maak een klein test programma om de nieuwe functionaliteit te testen Maak een VCD bestand met behulp van een similatie Vergelijk de VCD trace met de assembler code Begin aan het begin van het programma Gebeurt er precies dat wat jij verwacht?

23 23 Inhoudsopgave Veel gestelde vragen Hoe moet ik clipping implementeren? Hoe moet ik de compiler opnieuw compileren? Hoe moet ik forwarding implementeren? Er is iets bijzonders met de loads, maar hoe zit dat precies? Waarom is mijn simulatie zo traag? Waarom stopt mijn mmips simulatie niet? Hoe kan ik eenvoudig mijn forwarding testen? Wat is de maximale frequentie van mijn mmips? Waarom werkt ImProc.exe niet? Waarom is het plaatje dat uit de mmips komt zo donker? Opdracht Belangrijke data Vragen

24 24 Wat is de maximale frequentie van mijn mmips? Het synthese rapport wordt opgeslagen in het bestand mmips.srp maximale frequentie kritiek pad

26 26 Waarom werkt ImProc.exe niet? De combinatie van MS Vista en Cygwin geeft soms problemen met de file permissions Voer de volgende stappen uit als je een permission denied foutmelding krijgt op ImProc.exe of imgproc.exe )Open een cygwin shell 2)chmod a+rwx /usr/bin/imgproc.exe 3)chmod a+rwx /usr/bin/improc.exe 4)cd /cygdrive/d/imageprocessing/cygwin_post_install 5)./create_commands.sh 6)chmod a+rwx /usr/bin/imgproc.exe 7)chmod a+rwx /usr/bin/improc.exe

28 28 Waarom is het plaatje zo donker? Dit probleem kan een aantal oorzaken hebben imgproc.exe neemt standaard aan dat het plaatje 28x28 pixels is de filter coëfficiënten zijn niet altijd even logisch (vanuit een image processing perspectief) er zit een fout in je mmips Het plaatje dat jouw mmips oplevert moet uiteindelijk bit exact overeenkomen met het plaatje dat door de originele mmips wordt geproduceerd. Als beide plaatjes precies even donker zijn dan is het goed Je kunt dit echter niet zelf zien, gebruik daarom check-image

30 3 image.c void main(void) { int a, b, result; char *buf_i = (char*)x6, *buf_o = (char*)x6654; for (a = ; a < HEIGHT - ; a++) { for (b = ; b < WIDTH - ; b++) { result=(( 5*(int)buf_i[(a - ) * WIDTH + b - ] + -3*(int)buf_i[(a - ) * WIDTH + b ] + 6*(int)buf_i[(a - ) * WIDTH + b + ] + -7*(int)buf_i[ a * WIDTH + b - ] + *(int)buf_i[ a * WIDTH + b ] + -7*(int)buf_i[ a * WIDTH + b + ] + 6*(int)buf_i[(a + ) * WIDTH + b - ] + -3*(int)buf_i[(a + ) * WIDTH + b ] + 5*(int)buf_i[(a + ) * WIDTH + b + ] + 28) / 3); } } } /* Clipping */ if(result<) buf_o[a * WIDTH + b] = ; else if (result > 255) buf_o[a * WIDTH + b] = (char)255; else buf_o[a * WIDTH + b] = result;

31 Assembler if(result<) buf_o[a * WIDTH + b] = ; else if (result > 255) buf_o[a * WIDTH + b] = (char)255; else buf_o[a * WIDTH + b] = result; lcc image.c o mips_mem.bin disas mips_mem.bin 32: slt s8,s4,zero 324: beqz s8,x : nop 32c: sll t8,s6,x 33: sll t8,t8,x2 334: sll t8,t8,x2 338: addu t8,t8,s7 33c: addu t8,t8,s3 34: b x : sb zero,(t8) 348: li t8,255 34c: slt s8,t8,s4 35: beqz s8,x : nop 358: sll t8,s6,x 35c: sll t8,t8,x2 36: sll t8,t8,x2 364: addu t8,t8,s7 368: addu t8,t8,s3 36c: li t7,255 37: b x : sb t7,(t8) 378: sll t8,s6,x 37c: sll t8,t8,x2 38: sll t8,t8,x2 384: addu t8,t8,s7 388: addu t8,t8,s3 38c: move t7,s4 39: sb t7,(t8)

32 32 Voeg een custom patroon aan de C code toe #define clip(a,b) ((a) - ((b) + *(int *) x234432)) void main(void) { int a, b, result; char *buf_i = (char*)x6, *buf_o = (char*)x6654; for (a = ; a < HEIGHT - ; a++) { for (b = ; b < WIDTH - ; b++) { result=(( 5*(int)buf_i[(a - ) * WIDTH + b - ] + -3*(int)buf_i[(a - ) * WIDTH + b ] + 6*(int)buf_i[(a - ) * WIDTH + b + ] + -7*(int)buf_i[ a * WIDTH + b - ] + *(int)buf_i[ a * WIDTH + b ] + -7*(int)buf_i[ a * WIDTH + b + ] + 6*(int)buf_i[(a + ) * WIDTH + b - ] + -3*(int)buf_i[(a + ) * WIDTH + b ] + 5*(int)buf_i[(a + ) * WIDTH + b + ] + 28) / 3); } } } /* Clipping */ result = clip(result,result); buf_o[a * WIDTH + b] = result;

33 Assembler result = clip(result,result); buf_o[a * WIDTH + b] = result; lcc image.c o mips_mem.bin disas mips_mem.bin 328: tgeu s4,s4,x28 32c: lw t8,72(sp) 33: nop 334: addu t8,t8,s3 338: move t7,s4 33c: sb t7,(t8)

34 Converting a C program to the LCC IR : int main(void) { : int a = 3; 2: if (a == 3) 3: return ; a 3 ADDRLP4 CNSTI4 ASGNI4 2 a ADDRLP4 INDIRI4 3 CNSTI4 4: return ; 5: } NEI4 The LCC data representation is called an Abstract Syntax Tree (AST). 3 CNSTI4 RETI4 2* ADDRGP4 JUMPV The data representation is converted to assembler using rules. Rules map a set of nodes (one or more) onto assembler instructions. 4 CNSTI4 RETI4

35 What does a rule look like? A rule for adding two unsigned integer (4 bytes): reg: ADDU4 (reg,reg) "\taddu $%c,$%,$%\n" the node one output register two source registers the assembler instruction weight % The first source operand register %2 The second source operand register %c The destination register

36 Converting the LCC data-structure to assembler a 3 2 a.set reorder.globl main.text.text.align 2.ent main main:.frame $sp,8,$3 addu $sp,$sp,-8 la $24,3 sw $24,-4+8($sp) lw $24,-4+8($sp) la $5,3 bne $24,$5,L.2 la $2, b L. L.2: move $2,$ L.: addu $sp,$sp,8 j $3.end main ADDRLP4 ASGNI4 CNSTI4 3 ADDRLP4 3 INDIRI4 CNSTI4 NEI4 CNSTI4 RETI4 2* ADDRGP4 JUMPV 4 CNSTI4 RETI4

37 Adding a special function to the mmips (software) Clip function must be detected by LCC Use special pattern to indicate use of clip function Example: ((a) - ((b) + *(int *) x234432)) The following 4 constructs map to custom operations in LCC: ((a) - ((b) + *(int *) x234432)) ((a) + ((b) + *(int *) x234432)) ((a) - ((b) - *(int *) x234432)) ((a) + ((b) - *(int *) x234432)) More operations (possibly with more operands) can be added. Look at the website for more information.

38 What does a rule look like? All rules are defined in the file lcc/src/minimips.md File can be edited with a standard text editor LCC must be recompiled after editing (see website for details) Rule with three inputs

40 4 Opdracht Optimaliseer de run-time van een image processing filter voor de mmips beperkingen alle programma s die op de originele mmips draaien moeten ook op jouw mmips werken programma s die op jouw mmips draaien moeten precies hetzelfde resultaat (bit-exact) produceren als de originele mmips toegestaan toevoegen van speciale instructies aan de mmips aanpassen van het ontwerp van de mmips (b.v. forwarding) niet toegestaan aanpassingen aan het image processing algoritme die niet nodig zijn om speciale instructies te gebruiken (b.v. vervangen van vermenigvuldiging door shifts)

41 4 Testen en implementeren van het ontwerp functionele correctheid genereer referentie output met de originele mmips vergelijk deze referentie output met het resultaat van jouw eigen mmips gebruik check-image commando maximale klok frequentie gebruik cocentric en ise om timing rapport te genereren

42 42 Insturen van je ontwerp gebruik submit-design om jouw ontwerp in te sturen alleen de laatste versie wordt getest

44 Belangrijke data eerste versie van de mmips inleveren voor 8 maart a.s. om 2. uur deze deadline is optioneel als je iets inlevert krijg je feedback deze versie moet minimaal het volgende bevatten: werkende forwarding unit werkende clipping instructie. een los document (A4, pt font, max 2 pagina s) met een bescrhijving van alle veranderingen die je nog wil maken stuur het document naar s.stuijk@tue.nl instructies op

45 45 Belangrijke data test programma beschikbaar op vrijdag 3 maart om 9. op inleveren voor zondag april a.s. om 2. uur uitstel is niet mogelijk! presentaties op woensdag en donderdag 4/5 april a.s. indien je mmips tijdig is ingeleverd ontvang je op 2 april het tijdstip van je presentatie per presentatie moet gaan over wat jij gedaan hebt om de mmips sneller te maken (leg dus niet het boek, forwarding of clipping uit)

46 46 Ondersteuning en informatie iedere maandag tussen 5.45 en 7.3 uur in PT 9. zie ook voor meer informatie, tips, etc.

47 47 Vragen