Changeset 4955 in CLRX


Ignore:
Timestamp:
Sep 11, 2019, 6:21:46 PM (2 months ago)
Author:
matszpk
Message:

CLRadeonExtender: ROCmBin: Fixes in msgPackWriteString and msgPackWriteUInt. Small fixes.

Location:
CLRadeonExtender/trunk
Files:
2 edited

Legend:

Unmodified
Added
Removed
  • CLRadeonExtender/trunk/amdbin/ROCmMetadataMP.cpp

    r4954 r4955  
    10111011        cxbyte v[5];
    10121012        v[0] = 0xdb;
    1013         v[1] = len>>24;
    1014         v[2] = (len>>16)&0xff;
    1015         v[3] = (len>>8)&0xff;
    1016         v[4] = len&0xff;
     1013        size_t len2 = len;
     1014        for (cxuint i=4; i > 0; i--, len2>>=8)
     1015            v[i] = len2&0xff;
    10171016        output.insert(output.end(), v, v+5);
    10181017    }
     
    10501049        d[0] = 0xce;
    10511050        uint64_t v2 = v;
    1052         for (cxuint i=5; i >= 0; i--, v2>>=8)
     1051        for (cxuint i=4; i > 0; i--, v2>>=8)
    10531052            d[i] = v2&0xff;
    10541053        output.insert(output.end(), d, d+5);
     
    10591058        d[0] = 0xcf;
    10601059        uint64_t v2 = v;
    1061         for (cxuint i=9; i >= 0; i--, v2>>=8)
     1060        for (cxuint i=8; i > 0; i--, v2>>=8)
    10621061            d[i] = v2&0xff;
    10631062        output.insert(output.end(), d, d+9);
     
    10831082        d[0] = 0xdd;
    10841083        uint32_t v2 = elemsNum;
    1085         for (cxint i=4; i > 0; i--, v2>>=8)
     1084        for (cxuint i=4; i > 0; i--, v2>>=8)
    10861085            d[i] = v2&0xff;
    10871086        output.insert(output.end(), d, d+5);
     
    11471146        d[0] = 0xdf;
    11481147        uint32_t v2 = elemsNum;
    1149         for (cxint i=4; i > 0; i--, v2>>=8)
     1148        for (cxuint i=4; i > 0; i--, v2>>=8)
    11501149            d[i] = v2&0xff;
    11511150        output.insert(output.end(), d, d+5);
  • CLRadeonExtender/trunk/tests/amdbin/ROCmMsgPackWrite.cpp

    r4954 r4955  
    7474        assertArray("MsgPackWrite0", "tc3", outBytes3, out);
    7575    }
    76     {   // long array (12222 elements)
     76    {   // long array (1777777 elements)
    7777        Array<cxbyte> outBytes3(1777777+5);
    7878        outBytes3[0] = 0xdd;
     
    9090        assertArray("MsgPackWrite0", "tc4", outBytes3, out);
    9191    }
     92    /* test putting values */
    9293}
    9394
Note: See TracChangeset for help on using the changeset viewer.