source: CLRX/CLRadeonExtender/trunk/amdasm/AsmRegAllocSSAData.cpp @ 4045

Last change on this file since 4045 was 4045, checked in by matszpk, 7 months ago

CLRadeonExtender: AsmRegAlloc?: Do not use deque (flowstack) iterator (use index instead of). Initialize lastPos in SSAInfos. Add few debug dumps.

File size: 75.0 KB
Line 
1/*
2 *  CLRadeonExtender - Unofficial OpenCL Radeon Extensions Library
3 *  Copyright (C) 2014-2018 Mateusz Szpakowski
4 *
5 *  This library is free software; you can redistribute it and/or
6 *  modify it under the terms of the GNU Lesser General Public
7 *  License as published by the Free Software Foundation; either
8 *  version 2.1 of the License, or (at your option) any later version.
9 *
10 *  This library is distributed in the hope that it will be useful,
11 *  but WITHOUT ANY WARRANTY; without even the implied warranty of
12 *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13 *  Lesser General Public License for more details.
14 *
15 *  You should have received a copy of the GNU Lesser General Public
16 *  License along with this library; if not, write to the Free Software
17 *  Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02110-1301  USA
18 */
19
20#include <CLRX/Config.h>
21#include <iostream>
22#include <stack>
23#include <deque>
24#include <vector>
25#include <utility>
26#include <unordered_set>
27#include <unordered_map>
28#include <algorithm>
29#include <CLRX/utils/Utilities.h>
30#include <CLRX/utils/Containers.h>
31#include <CLRX/amdasm/Assembler.h>
32#include "AsmInternals.h"
33#include "AsmRegAlloc.h"
34
35using namespace CLRX;
36
37static inline void insertReplace(SSAReplacesMap& rmap, const AsmSingleVReg& vreg,
38              size_t origId, size_t destId)
39{
40    ARDOut << "  insertreplace: " << vreg.regVar << ":" << vreg.index  << ": " <<
41                origId << ", " << destId << "\n";
42    auto res = rmap.insert({ vreg, {} });
43    res.first->second.insertValue({ origId, destId });
44}
45
46/* caching concepts:
47 * resfirstPointsCache - cache of the ways that goes to conflict which should be resolved
48 *               from first code block of the code. The entries holds a stackVarMap state
49 *               to first point the conflict (first visited already code block)
50 * resSecondPointsCache - cache of the tree traversing, starting at the first conflict
51 *               point (first visited code block). Entries holds a
52 *               regvars SSAId read before write (that should resolved)
53 */
54
55static void handleSSAEntryWhileResolving(SSAReplacesMap* replacesMap,
56            const LastSSAIdMap* stackVarMap,
57            std::unordered_map<AsmSingleVReg, BlockIndex>& alreadyReadMap,
58            FlowStackEntry2& entry, const SSAEntry& sentry,
59            RBWSSAIdMap* cacheSecPoints)
60{
61    const SSAInfo& sinfo = sentry.second;
62    auto res = alreadyReadMap.insert({ sentry.first, entry.blockIndex });
63   
64    if (res.second && sinfo.readBeforeWrite)
65    {
66        if (cacheSecPoints != nullptr)
67        {
68            auto res = cacheSecPoints->insert({ sentry.first, { sinfo.ssaIdBefore } });
69            if (!res.second)
70                res.first->second.insertValue(sinfo.ssaIdBefore);
71        }
72       
73        if (stackVarMap != nullptr)
74        {
75            // resolve conflict for this variable ssaId>.
76            // only if in previous block previous SSAID is
77            // read before all writes
78            auto it = stackVarMap->find(sentry.first);
79           
80            if (it != stackVarMap->end())
81            {
82                // found, resolve by set ssaIdLast
83                for (size_t ssaId: it->second)
84                {
85                    if (ssaId > sinfo.ssaIdBefore)
86                        insertReplace(*replacesMap, sentry.first, ssaId,
87                                    sinfo.ssaIdBefore);
88                    else if (ssaId < sinfo.ssaIdBefore)
89                        insertReplace(*replacesMap, sentry.first,
90                                        sinfo.ssaIdBefore, ssaId);
91                }
92            }
93        }
94    }
95}
96
97// use res second point cache entry to resolve conflict with SSAIds.
98// it emits SSA replaces from these conflicts
99static void useResSecPointCache(SSAReplacesMap* replacesMap,
100        const LastSSAIdMap* stackVarMap,
101        const std::unordered_map<AsmSingleVReg, BlockIndex>& alreadyReadMap,
102        const RBWSSAIdMap* resSecondPoints, BlockIndex nextBlock,
103        RBWSSAIdMap* destCacheSecPoints)
104{
105    ARDOut << "use resSecPointCache for " << nextBlock <<
106            ", alreadyRMapSize: " << alreadyReadMap.size() << "\n";
107    for (const auto& sentry: *resSecondPoints)
108    {
109        const bool alreadyRead = alreadyReadMap.find(sentry.first) != alreadyReadMap.end();
110        if (destCacheSecPoints != nullptr && !alreadyRead)
111        {
112            auto res = destCacheSecPoints->insert(sentry);
113            if (!res.second)
114                for (size_t srcSSAId: sentry.second)
115                    res.first->second.insertValue(srcSSAId);
116        }
117       
118        if (stackVarMap != nullptr)
119        {
120            auto it = stackVarMap->find(sentry.first);
121           
122            if (it != stackVarMap->end() && !alreadyRead)
123            {
124                // found, resolve by set ssaIdLast
125                for (size_t ssaId: it->second)
126                {
127                    for (size_t secSSAId: sentry.second)
128                    {
129                        if (ssaId > secSSAId)
130                            insertReplace(*replacesMap, sentry.first, ssaId, secSSAId);
131                        else if (ssaId < secSSAId)
132                            insertReplace(*replacesMap, sentry.first, secSSAId, ssaId);
133                    }
134                }
135            }
136        }
137    }
138}
139
140// add new res second cache entry with readBeforeWrite for all encountered regvars
141static void addResSecCacheEntry(const RoutineMap& routineMap,
142                const std::vector<CodeBlock>& codeBlocks,
143                SimpleCache<size_t, RBWSSAIdMap>& resSecondPointsCache,
144                size_t nextBlock)
145{
146    ARDOut << "addResSecCacheEntry: " << nextBlock << "\n";
147    //std::stack<CallStackEntry> callStack = prevCallStack;
148    // traverse by graph from next block
149    std::deque<FlowStackEntry2> flowStack;
150    flowStack.push_back({ nextBlock, 0 });
151    CBlockBitPool visited(codeBlocks.size(), false);
152   
153    std::unordered_map<AsmSingleVReg, BlockIndex> alreadyReadMap;
154   
155    RBWSSAIdMap cacheSecPoints;
156   
157    while (!flowStack.empty())
158    {
159        FlowStackEntry2& entry = flowStack.back();
160        const CodeBlock& cblock = codeBlocks[entry.blockIndex];
161       
162        if (entry.nextIndex == 0)
163        {
164            // process current block
165            if (!visited[entry.blockIndex])
166            {
167                visited[entry.blockIndex] = true;
168                ARDOut << "  resolv (cache): " << entry.blockIndex << "\n";
169               
170                const RBWSSAIdMap* resSecondPoints =
171                            resSecondPointsCache.use(entry.blockIndex);
172                if (resSecondPoints == nullptr)
173                    for (auto& sentry: cblock.ssaInfoMap)
174                        handleSSAEntryWhileResolving(nullptr, nullptr,
175                                alreadyReadMap, entry, sentry,
176                                &cacheSecPoints);
177                else // to use cache
178                {
179                    useResSecPointCache(nullptr, nullptr, alreadyReadMap,
180                            resSecondPoints, entry.blockIndex, &cacheSecPoints);
181                    flowStack.pop_back();
182                    continue;
183                }
184            }
185            else
186            {
187                // back, already visited
188                ARDOut << "resolv already (cache): " << entry.blockIndex << "\n";
189                flowStack.pop_back();
190                continue;
191            }
192        }
193       
194        if (entry.nextIndex < cblock.nexts.size())
195        {
196            flowStack.push_back({ cblock.nexts[entry.nextIndex].block, 0 });
197            entry.nextIndex++;
198        }
199        else if (((entry.nextIndex==0 && cblock.nexts.empty()) ||
200                // if have any call then go to next block
201                (cblock.haveCalls && entry.nextIndex==cblock.nexts.size())) &&
202                 !cblock.haveReturn && !cblock.haveEnd)
203        {
204            // add toResolveMap ssaIds inside called routines
205            for (const auto& next: cblock.nexts)
206                if (next.isCall)
207                {
208                    const RoutineData& rdata = routineMap.find(next.block)->second;
209                    for (const auto& v: rdata.rbwSSAIdMap)
210                        alreadyReadMap.insert({v.first, entry.blockIndex });
211                    for (const auto& v: rdata.lastSSAIdMap)
212                        alreadyReadMap.insert({v.first, entry.blockIndex });
213                }
214           
215            flowStack.push_back({ entry.blockIndex+1, 0 });
216            entry.nextIndex++;
217        }
218        else // back
219        {
220            // remove old to resolve in leaved way to allow collecting next ssaId
221            // before write (can be different due to earlier visit)
222            for (const auto& next: cblock.nexts)
223                if (next.isCall)
224                {
225                    const RoutineData& rdata = routineMap.find(next.block)->second;
226                    for (const auto& v: rdata.rbwSSAIdMap)
227                    {
228                        auto it = alreadyReadMap.find(v.first);
229                        if (it != alreadyReadMap.end() && it->second == entry.blockIndex)
230                            alreadyReadMap.erase(it);
231                    }
232                    for (const auto& v: rdata.lastSSAIdMap)
233                    {
234                        auto it = alreadyReadMap.find(v.first);
235                        if (it != alreadyReadMap.end() && it->second == entry.blockIndex)
236                            alreadyReadMap.erase(it);
237                    }
238                }
239           
240            for (const auto& sentry: cblock.ssaInfoMap)
241            {
242                auto it = alreadyReadMap.find(sentry.first);
243                if (it != alreadyReadMap.end() && it->second == entry.blockIndex)
244                    // remove old to resolve in leaved way to allow collecting next ssaId
245                    // before write (can be different due to earlier visit)
246                    alreadyReadMap.erase(it);
247            }
248            ARDOut << "  popresolv (cache)\n";
249            flowStack.pop_back();
250        }
251    }
252   
253    resSecondPointsCache.put(nextBlock, cacheSecPoints);
254}
255
256// apply calls (changes from these calls) from code blocks to stack var map
257static void applyCallToStackVarMap(const CodeBlock& cblock, const RoutineMap& routineMap,
258        LastSSAIdMap& stackVarMap, BlockIndex blockIndex, size_t nextIndex)
259{
260    for (const NextBlock& next: cblock.nexts)
261        if (next.isCall)
262        {
263            const LastSSAIdMap& regVarMap =
264                    routineMap.find(next.block)->second.lastSSAIdMap;
265            for (const auto& sentry: regVarMap)
266                stackVarMap[sentry.first].clear(); // clearing
267        }
268   
269    for (const NextBlock& next: cblock.nexts)
270        if (next.isCall)
271        {
272            ARDOut << "  applycall: " << blockIndex << ": " <<
273                    nextIndex << ": " << next.block << "\n";
274            const LastSSAIdMap& regVarMap =
275                    routineMap.find(next.block)->second.lastSSAIdMap;
276            for (const auto& sentry: regVarMap)
277                for (size_t s: sentry.second)
278                    stackVarMap.insertSSAId(sentry.first, s);
279        }
280}
281
282
283// main routine to resilve SSA conflicts in code
284// it emits SSA replaces from these conflicts
285static void resolveSSAConflicts(const std::deque<FlowStackEntry2>& prevFlowStack,
286        const RoutineMap& routineMap, const std::vector<CodeBlock>& codeBlocks,
287        const PrevWaysIndexMap& prevWaysIndexMap,
288        const CBlockBitPool& waysToCache, ResSecondPointsToCache& cblocksToCache,
289        SimpleCache<size_t, LastSSAIdMap>& resFirstPointsCache,
290        SimpleCache<size_t, RBWSSAIdMap>& resSecondPointsCache,
291        SSAReplacesMap& replacesMap)
292{
293    size_t nextBlock = prevFlowStack.back().blockIndex;
294    auto pfEnd = prevFlowStack.end();
295    --pfEnd;
296    ARDOut << "startResolv: " << (pfEnd-1)->blockIndex << "," << nextBlock << "\n";
297    LastSSAIdMap stackVarMap;
298   
299    size_t pfStartIndex = 0;
300    {
301        auto pfPrev = pfEnd;
302        --pfPrev;
303        auto it = prevWaysIndexMap.find(pfPrev->blockIndex);
304        if (it != prevWaysIndexMap.end())
305        {
306            const LastSSAIdMap* cached = resFirstPointsCache.use(it->second.first);
307            if (cached!=nullptr)
308            {
309                ARDOut << "use pfcached: " << it->second.first << ", " <<
310                        it->second.second << "\n";
311                stackVarMap = *cached;
312                pfStartIndex = it->second.second+1;
313               
314                // apply missing calls at end of the cached
315                const CodeBlock& cblock = codeBlocks[it->second.first];
316               
317                const FlowStackEntry2& entry = *(prevFlowStack.begin()+pfStartIndex-1);
318                if (entry.nextIndex > cblock.nexts.size())
319                    applyCallToStackVarMap(cblock, routineMap, stackVarMap, -1, -1);
320            }
321        }
322    }
323   
324    for (auto pfit = prevFlowStack.begin()+pfStartIndex; pfit != pfEnd; ++pfit)
325    {
326        const FlowStackEntry2& entry = *pfit;
327        ARDOut << "  apply: " << entry.blockIndex << "\n";
328        const CodeBlock& cblock = codeBlocks[entry.blockIndex];
329        for (const auto& sentry: cblock.ssaInfoMap)
330        {
331            const SSAInfo& sinfo = sentry.second;
332            if (sinfo.ssaIdChange != 0)
333                stackVarMap[sentry.first] = { sinfo.ssaId + sinfo.ssaIdChange - 1 };
334        }
335        if (entry.nextIndex > cblock.nexts.size())
336            applyCallToStackVarMap(cblock, routineMap, stackVarMap,
337                        entry.blockIndex, entry.nextIndex);
338       
339        // put to first point cache
340        if (waysToCache[pfit->blockIndex] &&
341            !resFirstPointsCache.hasKey(pfit->blockIndex))
342        {
343            ARDOut << "put pfcache " << pfit->blockIndex << "\n";
344            resFirstPointsCache.put(pfit->blockIndex, stackVarMap);
345        }
346    }
347   
348    RBWSSAIdMap cacheSecPoints;
349    const bool toCache = (!resSecondPointsCache.hasKey(nextBlock)) &&
350                cblocksToCache.count(nextBlock)>=2;
351   
352    //std::stack<CallStackEntry> callStack = prevCallStack;
353    // traverse by graph from next block
354    std::deque<FlowStackEntry2> flowStack;
355    flowStack.push_back({ nextBlock, 0 });
356    CBlockBitPool visited(codeBlocks.size(), false);
357   
358    // already read in current path
359    // key - vreg, value - source block where vreg of conflict found
360    std::unordered_map<AsmSingleVReg, BlockIndex> alreadyReadMap;
361   
362    while (!flowStack.empty())
363    {
364        FlowStackEntry2& entry = flowStack.back();
365        const CodeBlock& cblock = codeBlocks[entry.blockIndex];
366       
367        if (entry.nextIndex == 0)
368        {
369            // process current block
370            if (!visited[entry.blockIndex])
371            {
372                visited[entry.blockIndex] = true;
373                ARDOut << "  resolv: " << entry.blockIndex << "\n";
374               
375                const RBWSSAIdMap* resSecondPoints =
376                        resSecondPointsCache.use(entry.blockIndex);
377                if (resSecondPoints == nullptr)
378                    for (auto& sentry: cblock.ssaInfoMap)
379                        handleSSAEntryWhileResolving(&replacesMap, &stackVarMap,
380                                alreadyReadMap, entry, sentry,
381                                toCache ? &cacheSecPoints : nullptr);
382                else // to use cache
383                {
384                    useResSecPointCache(&replacesMap, &stackVarMap, alreadyReadMap,
385                            resSecondPoints, entry.blockIndex,
386                            toCache ? &cacheSecPoints : nullptr);
387                    flowStack.pop_back();
388                    continue;
389                }
390            }
391            else
392            {
393                cblocksToCache.increase(entry.blockIndex);
394                ARDOut << "cblockToCache: " << entry.blockIndex << "=" <<
395                            cblocksToCache.count(entry.blockIndex) << "\n";
396                // back, already visited
397                ARDOut << "resolv already: " << entry.blockIndex << "\n";
398                flowStack.pop_back();
399                continue;
400            }
401        }
402       
403        if (entry.nextIndex < cblock.nexts.size())
404        {
405            flowStack.push_back({ cblock.nexts[entry.nextIndex].block, 0 });
406            entry.nextIndex++;
407        }
408        else if (((entry.nextIndex==0 && cblock.nexts.empty()) ||
409                // if have any call then go to next block
410                (cblock.haveCalls && entry.nextIndex==cblock.nexts.size())) &&
411                 !cblock.haveReturn && !cblock.haveEnd)
412        {
413            // add toResolveMap ssaIds inside called routines
414            for (const auto& next: cblock.nexts)
415                if (next.isCall)
416                {
417                    const RoutineData& rdata = routineMap.find(next.block)->second;
418                    for (const auto& v: rdata.rbwSSAIdMap)
419                        alreadyReadMap.insert({v.first, entry.blockIndex });
420                    for (const auto& v: rdata.lastSSAIdMap)
421                        alreadyReadMap.insert({v.first, entry.blockIndex });
422                }
423           
424            flowStack.push_back({ entry.blockIndex+1, 0 });
425            entry.nextIndex++;
426        }
427        else // back
428        {
429            // remove old to resolve in leaved way to allow collecting next ssaId
430            // before write (can be different due to earlier visit)
431            for (const auto& next: cblock.nexts)
432                if (next.isCall)
433                {
434                    const RoutineData& rdata = routineMap.find(next.block)->second;
435                    for (const auto& v: rdata.rbwSSAIdMap)
436                    {
437                        auto it = alreadyReadMap.find(v.first);
438                        if (it != alreadyReadMap.end() && it->second == entry.blockIndex)
439                            alreadyReadMap.erase(it);
440                    }
441                    for (const auto& v: rdata.lastSSAIdMap)
442                    {
443                        auto it = alreadyReadMap.find(v.first);
444                        if (it != alreadyReadMap.end() && it->second == entry.blockIndex)
445                            alreadyReadMap.erase(it);
446                    }
447                }
448           
449            for (const auto& sentry: cblock.ssaInfoMap)
450            {
451                auto it = alreadyReadMap.find(sentry.first);
452                if (it != alreadyReadMap.end() && it->second == entry.blockIndex)
453                    // remove old to resolve in leaved way to allow collecting next ssaId
454                    // before write (can be different due to earlier visit)
455                    alreadyReadMap.erase(it);
456            }
457            ARDOut << "  popresolv\n";
458           
459            if (cblocksToCache.count(entry.blockIndex)==2 &&
460                !resSecondPointsCache.hasKey(entry.blockIndex))
461                // add to cache
462                addResSecCacheEntry(routineMap, codeBlocks, resSecondPointsCache,
463                            entry.blockIndex);
464           
465            flowStack.pop_back();
466        }
467    }
468   
469    if (toCache)
470        resSecondPointsCache.put(nextBlock, cacheSecPoints);
471}
472
473// join ret SSAId Map - src - last SSAIdMap from called routine
474static void joinRetSSAIdMap(RetSSAIdMap& dest, const LastSSAIdMap& src,
475                BlockIndex routineBlock)
476{
477    for (const auto& entry: src)
478    {
479        ARDOut << "  joinRetSSAIdMap: " << entry.first.regVar << ":" <<
480                cxuint(entry.first.index) << ":";
481        for (size_t v: entry.second)
482            ARDOut << " " << v;
483        ARDOut << "\n";
484        // insert if not inserted
485        auto res = dest.insert({entry.first, { { routineBlock }, entry.second } });
486        if (res.second)
487            continue; // added new
488        VectorSet<size_t>& destEntry = res.first->second.ssaIds;
489        res.first->second.routines.push_back(routineBlock);
490        // add new ways
491        for (size_t ssaId: entry.second)
492            destEntry.insertValue(ssaId);
493        ARDOut << "    :";
494        for (size_t v: destEntry)
495            ARDOut << " " << v;
496        ARDOut << "\n";
497    }
498}
499
500// simple join last ssaid map
501static void joinLastSSAIdMap(LastSSAIdMap& dest, const LastSSAIdMap& src)
502{
503    for (const auto& entry: src)
504    {
505        ARDOut << "  joinLastSSAIdMap: " << entry.first.regVar << ":" <<
506                cxuint(entry.first.index) << ":";
507        for (size_t v: entry.second)
508            ARDOut << " " << v;
509        ARDOut << "\n";
510        auto res = dest.insert(entry); // find
511        if (res.second)
512            continue; // added new
513        VectorSet<size_t>& destEntry = res.first->second;
514        // add new ways
515        for (size_t ssaId: entry.second)
516            destEntry.insertValue(ssaId);
517        ARDOut << "    :";
518        for (size_t v: destEntry)
519            ARDOut << " " << v;
520        ARDOut << "\n";
521    }
522}
523
524// join last SSAIdMap of the routine including later routine call
525// dest - dest last SSAId map, src - source lastSSAIdMap
526// laterRdatas - data of subroutine/routine exeuted after src lastSSAIdMap state
527static void joinLastSSAIdMapInt(LastSSAIdMap& dest, const LastSSAIdMap& src,
528                    const LastSSAIdMap& laterRdataCurSSAIdMap,
529                    const LastSSAIdMap& laterRdataLastSSAIdMap, bool loop)
530{
531    for (const auto& entry: src)
532    {
533        auto lsit = laterRdataLastSSAIdMap.find(entry.first);
534        if (lsit != laterRdataLastSSAIdMap.end())
535        {
536            auto csit = laterRdataCurSSAIdMap.find(entry.first);
537            if (csit != laterRdataCurSSAIdMap.end() && !csit->second.empty())
538            {
539                // if found in last ssa ID map,
540                // but has first value (some way do not change SSAId)
541                // then pass to add new ssaIds before this point
542                if (!lsit->second.hasValue(csit->second[0]))
543                    continue; // otherwise, skip
544            }
545        }
546        ARDOut << "  joinLastSSAIdMapInt: " << entry.first.regVar << ":" <<
547                cxuint(entry.first.index) << ":";
548        for (size_t v: entry.second)
549            ARDOut << " " << v;
550        ARDOut << "\n";
551        auto res = dest.insert(entry); // find
552        if (res.second)
553            continue; // added new
554        VectorSet<size_t>& destEntry = res.first->second;
555        // add new ways
556        for (size_t ssaId: entry.second)
557            destEntry.insertValue(ssaId);
558        ARDOut << "    :";
559        for (size_t v: destEntry)
560            ARDOut << " " << v;
561        ARDOut << "\n";
562    }
563    if (!loop) // do not if loop
564        joinLastSSAIdMap(dest, laterRdataLastSSAIdMap);
565}
566
567static void joinLastSSAIdMap(LastSSAIdMap& dest, const LastSSAIdMap& src,
568                    const RoutineData& laterRdata, bool loop = false)
569{
570    joinLastSSAIdMapInt(dest, src, laterRdata.curSSAIdMap, laterRdata.lastSSAIdMap, loop);
571}
572
573
574// join routine data from child call with data from parent routine
575// (just join child call from parent)
576static void joinRoutineData(RoutineData& dest, const RoutineData& src,
577            const std::unordered_map<AsmSingleVReg, size_t>& curSSAIdMap,
578            bool notFirstReturn)
579{
580    // insert readBeforeWrite only if doesnt exists in destination
581    dest.rbwSSAIdMap.insert(src.rbwSSAIdMap.begin(), src.rbwSSAIdMap.end());
582    dest.origRbwSSAIdMap.insert(src.origRbwSSAIdMap.begin(), src.origRbwSSAIdMap.end());
583   
584    //joinLastSSAIdMap(dest.curSSAIdMap, src.lastSSAIdMap);
585   
586    for (const auto& entry: src.lastSSAIdMap)
587    {
588        ARDOut << "  joinRoutineData: " << entry.first.regVar << ":" <<
589                cxuint(entry.first.index) << ":";
590        for (size_t v: entry.second)
591            ARDOut << " " << v;
592        ARDOut << "\n";
593        auto res = dest.curSSAIdMap.insert(entry); // find
594        VectorSet<size_t>& destEntry = res.first->second;
595       
596        if (!res.second)
597        {
598            // add new ways
599            for (size_t ssaId: entry.second)
600                destEntry.insertValue(ssaId);
601        }
602        else if (notFirstReturn)
603        {
604            auto csit = curSSAIdMap.find(entry.first);
605            // insert to lastSSAIdMap if no ssaIds for regvar in lastSSAIdMap
606            dest.lastSSAIdMap.insert({ entry.first,
607                        { (csit!=curSSAIdMap.end() ? csit->second : 1)-1 } });
608        }
609       
610        ARDOut << "    :";
611        for (size_t v: destEntry)
612            ARDOut << " " << v;
613        ARDOut << "\n";
614    }
615}
616
617// reduce retSSAIds for calls (for all read before write SSAIds for current code block)
618static void reduceSSAIdsForCalls(FlowStackEntry& entry,
619            const std::vector<CodeBlock>& codeBlocks,
620            RetSSAIdMap& retSSAIdMap, RoutineMap& routineMap,
621            SSAReplacesMap& ssaReplacesMap)
622{
623    if (retSSAIdMap.empty())
624        return;
625    LastSSAIdMap rbwSSAIdMap;
626    std::unordered_set<AsmSingleVReg> reduced;
627    std::unordered_set<AsmSingleVReg> changed;
628    const CodeBlock& cblock = codeBlocks[entry.blockIndex.index];
629    // collect rbw SSAIds
630    for (const NextBlock next: cblock.nexts)
631        if (next.isCall)
632        {
633            auto it = routineMap.find(next.block); // must find
634            for (const auto& rentry: it->second.rbwSSAIdMap)
635                rbwSSAIdMap.insertSSAId(rentry.first,rentry.second);
636           
637        }
638    for (const NextBlock next: cblock.nexts)
639        if (next.isCall)
640        {
641            auto it = routineMap.find(next.block); // must find
642            // add changed
643            for (const auto& lentry: it->second.lastSSAIdMap)
644                if (rbwSSAIdMap.find(lentry.first) == rbwSSAIdMap.end())
645                    changed.insert(lentry.first);
646        }
647   
648    // reduce SSAIds
649    for (const auto& rentry: retSSAIdMap)
650    {
651        auto ssaIdsIt = rbwSSAIdMap.find(rentry.first);
652        if (ssaIdsIt != rbwSSAIdMap.end())
653        {
654            const VectorSet<size_t>& ssaIds = ssaIdsIt->second;
655            const VectorSet<size_t>& rssaIds = rentry.second.ssaIds;
656            Array<size_t> outSSAIds(ssaIds.size() + rssaIds.size());
657            std::copy(rssaIds.begin(), rssaIds.end(), outSSAIds.begin());
658            std::copy(ssaIds.begin(), ssaIds.end(), outSSAIds.begin()+rssaIds.size());
659           
660            std::sort(outSSAIds.begin(), outSSAIds.end());
661            outSSAIds.resize(std::unique(outSSAIds.begin(), outSSAIds.end()) -
662                        outSSAIds.begin());
663            size_t minSSAId = outSSAIds.front();
664            if (outSSAIds.size() >= 2)
665            {
666                for (auto sit = outSSAIds.begin()+1; sit != outSSAIds.end(); ++sit)
667                    insertReplace(ssaReplacesMap, rentry.first, *sit, minSSAId);
668               
669                ARDOut << "calls retssa ssaid: " << rentry.first.regVar << ":" <<
670                        rentry.first.index << "\n";
671            }
672           
673            for (BlockIndex rblock: rentry.second.routines)
674                routineMap.find(rblock)->second.lastSSAIdMap[rentry.first] =
675                            VectorSet<size_t>({ minSSAId });
676            reduced.insert(rentry.first);
677        }
678    }
679    for (const AsmSingleVReg& vreg: reduced)
680        retSSAIdMap.erase(vreg);
681    reduced.clear();
682       
683    for (const AsmSingleVReg& vreg: changed)
684    {
685        auto rit = retSSAIdMap.find(vreg);
686        if (rit != retSSAIdMap.end())
687        {
688            // if modified
689            // put before removing to revert for other ways after calls
690            auto res = entry.prevRetSSAIdSets.insert(*rit);
691            if (res.second)
692                res.first->second = rit->second;
693            // just remove, if some change without read before
694            retSSAIdMap.erase(rit);
695        }
696    }
697}
698
699static void reduceSSAIds2(std::unordered_map<AsmSingleVReg, size_t>& curSSAIdMap,
700            RetSSAIdMap& retSSAIdMap, FlowStackEntry& entry, const SSAEntry& ssaEntry)
701{
702    const SSAInfo& sinfo = ssaEntry.second;
703    size_t& ssaId = curSSAIdMap[ssaEntry.first];
704    auto ssaIdsIt = retSSAIdMap.find(ssaEntry.first);
705    if (ssaIdsIt != retSSAIdMap.end() && sinfo.readBeforeWrite)
706    {
707        auto& ssaIds = ssaIdsIt->second.ssaIds;
708        ssaId = ssaIds.front()+1; // plus one
709        retSSAIdMap.erase(ssaIdsIt);
710    }
711    else if (ssaIdsIt != retSSAIdMap.end() && sinfo.ssaIdChange!=0)
712    {
713        // put before removing to revert for other ways after calls
714        auto res = entry.prevRetSSAIdSets.insert(*ssaIdsIt);
715        if (res.second)
716            res.first->second = ssaIdsIt->second;
717        // just remove, if some change without read before
718        retSSAIdMap.erase(ssaIdsIt);
719    }
720}
721
722// reduce retSSAIds (last SSAIds for regvar) while passing by code block
723// and emits SSA replaces for these ssaids
724static bool reduceSSAIds(std::unordered_map<AsmSingleVReg, size_t>& curSSAIdMap,
725            RetSSAIdMap& retSSAIdMap, RoutineMap& routineMap,
726            SSAReplacesMap& ssaReplacesMap, FlowStackEntry& entry, SSAEntry& ssaEntry)
727{
728    SSAInfo& sinfo = ssaEntry.second;
729    size_t& ssaId = curSSAIdMap[ssaEntry.first];
730    auto ssaIdsIt = retSSAIdMap.find(ssaEntry.first);
731    if (ssaIdsIt != retSSAIdMap.end() && sinfo.readBeforeWrite)
732    {
733        auto& ssaIds = ssaIdsIt->second.ssaIds;
734       
735        if (sinfo.ssaId != SIZE_MAX)
736        {
737            VectorSet<size_t> outSSAIds = ssaIds;
738            outSSAIds.insertValue(ssaId-1); // ???
739            // already set
740            if (outSSAIds.size() >= 1)
741            {
742                // reduce to minimal ssaId from all calls
743                std::sort(outSSAIds.begin(), outSSAIds.end());
744                outSSAIds.resize(std::unique(outSSAIds.begin(), outSSAIds.end()) -
745                            outSSAIds.begin());
746                // insert SSA replaces
747                if (outSSAIds.size() >= 2)
748                {
749                    size_t minSSAId = outSSAIds.front();
750                    for (auto sit = outSSAIds.begin()+1; sit != outSSAIds.end(); ++sit)
751                        insertReplace(ssaReplacesMap, ssaEntry.first, *sit, minSSAId);
752                }
753            }
754        }
755        else if (ssaIds.size() >= 2)
756        {
757            // reduce to minimal ssaId from all calls
758            std::sort(ssaIds.begin(), ssaIds.end());
759            ssaIds.resize(std::unique(ssaIds.begin(), ssaIds.end()) - ssaIds.begin());
760            // insert SSA replaces
761            size_t minSSAId = ssaIds.front();
762            for (auto sit = ssaIds.begin()+1; sit != ssaIds.end(); ++sit)
763                insertReplace(ssaReplacesMap, ssaEntry.first, *sit, minSSAId);
764            ssaId = minSSAId+1; // plus one
765        }
766        else if (ssaIds.size() == 1)
767            ssaId = ssaIds.front()+1; // plus one
768       
769        ARDOut << "retssa ssaid: " << ssaEntry.first.regVar << ":" <<
770                ssaEntry.first.index << ": " << ssaId << "\n";
771        // replace smallest ssaId in routineMap lastSSAId entry
772        // reduce SSAIds replaces
773        for (BlockIndex rblock: ssaIdsIt->second.routines)
774        {
775            RoutineData& rdata = routineMap.find(rblock)->second;
776            size_t rbwRetSSAId = SIZE_MAX;
777            auto rbwIt = rdata.rbwSSAIdMap.find(ssaEntry.first);
778            auto rlsit = rdata.lastSSAIdMap.find(ssaEntry.first);
779            if (rbwIt != rdata.rbwSSAIdMap.end() && rlsit->second.hasValue(rbwIt->second))
780                rbwRetSSAId = rbwIt->second;
781            rlsit->second = VectorSet<size_t>({ ssaId-1 });
782            if (rbwRetSSAId != SIZE_MAX)
783            {
784                ARDOut << "  keep retSSAId rbw: " << rbwRetSSAId << "\n";
785                // add retSSAId without changes (in way without regvar changes)
786                rlsit->second.insertValue(rbwRetSSAId);
787            }
788        }
789        // finally remove from container (because obsolete)
790        retSSAIdMap.erase(ssaIdsIt);
791        return true;
792    }
793    else if (ssaIdsIt != retSSAIdMap.end() && sinfo.ssaIdChange!=0)
794    {
795        // put before removing to revert for other ways after calls
796        auto res = entry.prevRetSSAIdSets.insert(*ssaIdsIt);
797        if (res.second)
798            res.first->second = ssaIdsIt->second;
799        // just remove, if some change without read before
800        retSSAIdMap.erase(ssaIdsIt);
801    }
802    return false;
803}
804
805// update single current SSAId for routine and optionally lastSSAIdMap if returns
806// has been encountered but not regvar
807static void updateRoutineData(RoutineData& rdata, const SSAEntry& ssaEntry,
808                size_t prevSSAId)
809{
810    const SSAInfo& sinfo = ssaEntry.second;
811    bool beforeFirstAccess = true;
812    // put first SSAId before write
813    if (sinfo.readBeforeWrite)
814    {
815        //ARDOut << "PutCRBW: " << sinfo.ssaIdBefore << "\n";
816        if (!rdata.rbwSSAIdMap.insert({ ssaEntry.first, prevSSAId }).second)
817            // if already added
818            beforeFirstAccess = false;
819       
820        rdata.origRbwSSAIdMap.insert({ ssaEntry.first, ssaEntry.second.ssaIdBefore });
821    }
822   
823    if (sinfo.ssaIdChange != 0)
824    {
825        //ARDOut << "PutC: " << sinfo.ssaIdLast << "\n";
826        auto res = rdata.curSSAIdMap.insert({ ssaEntry.first, { sinfo.ssaIdLast } });
827        // put last SSAId
828        if (!res.second)
829        {
830            beforeFirstAccess = false;
831            // if not inserted
832            VectorSet<size_t>& ssaIds = res.first->second;
833            ssaIds.clear(); // clear all ssaIds in currentSSAID entry
834            ssaIds.insertValue(sinfo.ssaIdLast);
835        }
836        // add readbefore if in previous returns if not added yet
837        if (rdata.notFirstReturn && beforeFirstAccess)
838        {
839            rdata.lastSSAIdMap.insert({ ssaEntry.first, { prevSSAId } });
840            for (auto& loopEnd: rdata.loopEnds)
841                loopEnd.second.ssaIdMap.insert({ ssaEntry.first, { prevSSAId } });
842        }
843    }
844    else
845    {
846        // insert read ssaid if no change
847        auto res = rdata.curSSAIdMap.insert({ ssaEntry.first, { prevSSAId } });
848        if (!res.second)
849        {
850            VectorSet<size_t>& ssaIds = res.first->second;
851            ssaIds.insertValue(prevSSAId);
852        }
853    }
854}
855
856static void initializePrevRetSSAIds(
857            const std::unordered_map<AsmSingleVReg, size_t>& curSSAIdMap,
858            const RetSSAIdMap& retSSAIdMap, const RoutineData& rdata,
859            FlowStackEntry& entry)
860{
861    for (const auto& v: rdata.lastSSAIdMap)
862    {
863        auto res = entry.prevRetSSAIdSets.insert({v.first, {}});
864        if (!res.second)
865            continue; // already added, do not change
866        auto rfit = retSSAIdMap.find(v.first);
867        if (rfit != retSSAIdMap.end())
868            res.first->second = rfit->second;
869       
870        auto csit = curSSAIdMap.find(v.first);
871        res.first->second.prevSSAId = (csit!=curSSAIdMap.end() ? csit->second : 1);
872    }
873}
874
875// revert retSSAIdMap while leaving from code block
876static void revertRetSSAIdMap(std::unordered_map<AsmSingleVReg, size_t>& curSSAIdMap,
877            RetSSAIdMap& retSSAIdMap, FlowStackEntry& entry, RoutineData* rdata)
878{
879    // revert retSSAIdMap
880    for (auto v: entry.prevRetSSAIdSets)
881    {
882        auto rfit = retSSAIdMap.find(v.first);
883        if (rdata!=nullptr && rfit != retSSAIdMap.end())
884        {
885            VectorSet<size_t>& ssaIds = rdata->curSSAIdMap[v.first];
886            for (size_t ssaId: rfit->second.ssaIds)
887                ssaIds.eraseValue(ssaId);
888        }
889       
890        if (!v.second.ssaIds.empty())
891        {
892            // just add if previously present
893            if (rfit != retSSAIdMap.end())
894                rfit->second = v.second;
895            else
896                retSSAIdMap.insert(v);
897        }
898        else // erase if empty
899            retSSAIdMap.erase(v.first);
900       
901        size_t oldSSAId = curSSAIdMap[v.first]-1;
902        curSSAIdMap[v.first] = v.second.prevSSAId;
903        if (rdata!=nullptr)
904        {
905            VectorSet<size_t>& ssaIds = rdata->curSSAIdMap[v.first];
906            ssaIds.eraseValue(oldSSAId); // ??? need extra constraints
907            for (size_t ssaId: v.second.ssaIds)
908                ssaIds.insertValue(ssaId);
909            if (v.second.ssaIds.empty())
910            {
911                auto cit = curSSAIdMap.find(v.first);
912                ssaIds.insertValue((cit!=curSSAIdMap.end() ? cit->second : 1)-1);
913            }
914           
915            ARDOut << " revertSSAIdPopEntry" << entry.blockIndex << ": " <<
916                    v.first.regVar << ":" << v.first.index << ":";
917            for (size_t v: ssaIds)
918                ARDOut << " " << v;
919            ARDOut << "\n";
920        }
921    }
922}
923
924// update current SSAId in curSSAIdMap for routine while leaving from code block
925static void updateRoutineCurSSAIdMap(RoutineData* rdata, const SSAEntry& ssaEntry,
926            const FlowStackEntry& entry, size_t curSSAId, size_t nextSSAId)
927{
928    VectorSet<size_t>& ssaIds = rdata->curSSAIdMap[ssaEntry.first];
929    ARDOut << " updateRoutineCurSSAIdMap " << entry.blockIndex << ": " <<
930                ssaEntry.first.regVar << ":" << ssaEntry.first.index << ":";
931    for (size_t v: ssaIds)
932        ARDOut << " " << v;
933    ARDOut << "\n";
934   
935    // if cblock with some children
936    if (nextSSAId != curSSAId)
937        ssaIds.eraseValue(nextSSAId-1);
938   
939    // push previous SSAId to lastSSAIdMap (later will be replaced)
940    ssaIds.insertValue(curSSAId-1);
941   
942    ARDOut << " updateRoutineCurSSAIdMap after " << entry.blockIndex << ": " <<
943                ssaEntry.first.regVar << ":" << ssaEntry.first.index << ":";
944    for (size_t v: ssaIds)
945        ARDOut << " " << v;
946    ARDOut << "\n";
947}
948
949static bool tryAddLoopEnd(const FlowStackEntry& entry, BlockIndex routineBlock,
950                RoutineData& rdata, bool isLoop, bool noMainLoop)
951{
952    if (isLoop && (!noMainLoop || routineBlock != entry.blockIndex))
953    {
954        // handle loops
955        ARDOut << "  join loop ssaids: " << entry.blockIndex << "\n";
956        // add to routine data loopEnds
957        auto loopsit2 = rdata.loopEnds.find(entry.blockIndex);
958        if (loopsit2 != rdata.loopEnds.end())
959        {
960            if (!loopsit2->second.passed)
961                // still in loop join ssaid map
962                joinLastSSAIdMap(loopsit2->second.ssaIdMap, rdata.curSSAIdMap);
963        }
964        else
965            rdata.loopEnds.insert({ entry.blockIndex, { rdata.curSSAIdMap, false } });
966        return true;
967    }
968    return false;
969}
970
971
972static void createRoutineData(const std::vector<CodeBlock>& codeBlocks,
973        std::unordered_map<AsmSingleVReg, size_t>& curSSAIdMap,
974        const std::unordered_set<BlockIndex>& loopBlocks,
975        const std::unordered_set<BlockIndex>& callBlocks,
976        const ResSecondPointsToCache& subroutToCache,
977        SimpleCache<BlockIndex, RoutineData>& subroutinesCache,
978        const RoutineMap& routineMap, RoutineData& rdata,
979        BlockIndex routineBlock, CBlockBitPool& prevFlowStackBlocks,
980        CBlockBitPool& flowStackBlocks, bool noMainLoop = false)
981{
982    bool fromSubroutine = noMainLoop;
983    ARDOut << "--------- createRoutineData ----------------\n";
984    CBlockBitPool visited(codeBlocks.size(), false);
985    CBlockBitPool haveReturnBlocks(codeBlocks.size(), false);
986   
987    VectorSet<BlockIndex> activeLoops;
988    SubrLoopsMap subrLoopsMap;
989    SubrLoopsMap loopSubrsMap;
990    RoutineMap subrDataForLoopMap;
991    std::deque<FlowStackEntry> flowStack;
992    //CBlockBitPool flowStackBlocks(codeBlocks.size(), false);
993    //if (!prevFlowStackBlocks.empty())
994        //flowStackBlocks = prevFlowStackBlocks;
995    // last SSA ids map from returns
996    RetSSAIdMap retSSAIdMap;
997    flowStack.push_back({ routineBlock, 0 });
998    if (!fromSubroutine)
999        flowStackBlocks[routineBlock] = true;
1000   
1001    while (!flowStack.empty())
1002    {
1003        FlowStackEntry& entry = flowStack.back();
1004        const CodeBlock& cblock = codeBlocks[entry.blockIndex.index];
1005       
1006        auto addSubroutine = [&](
1007            std::unordered_map<BlockIndex, LoopSSAIdMap>::const_iterator loopsit2,
1008            bool applyToMainRoutine)
1009        {
1010            if (subroutinesCache.hasKey(entry.blockIndex))
1011            {
1012                // if already put, just applyToMainRoutine if needed
1013                if (applyToMainRoutine &&
1014                    loopBlocks.find(entry.blockIndex) != loopBlocks.end() &&
1015                    loopsit2 != rdata.loopEnds.end())
1016                {
1017                    RoutineData* subRdata = subroutinesCache.use(entry.blockIndex);
1018                    joinLastSSAIdMap(rdata.lastSSAIdMap, loopsit2->second.ssaIdMap,
1019                                        *subRdata, true);
1020                }
1021                return;
1022            }
1023           
1024            RoutineData subrData;
1025            bool oldFB = false;
1026            if (!fromSubroutine)
1027            {
1028                oldFB = flowStackBlocks[entry.blockIndex];
1029                flowStackBlocks[entry.blockIndex] = !oldFB;
1030            }
1031            createRoutineData(codeBlocks, curSSAIdMap, loopBlocks, callBlocks,
1032                    subroutToCache, subroutinesCache, routineMap, subrData,
1033                    entry.blockIndex, flowStackBlocks, flowStackBlocks, true);
1034            RoutineData subrDataCopy;
1035            if (!fromSubroutine)
1036                flowStackBlocks[entry.blockIndex] = oldFB;
1037           
1038            if (loopBlocks.find(entry.blockIndex) != loopBlocks.end())
1039            {   // leave from loop point
1040                ARDOut << "   loopfound " << entry.blockIndex << "\n";
1041                if (loopsit2 != rdata.loopEnds.end())
1042                {
1043                    subrDataCopy = subrData;
1044                    subrDataForLoopMap.insert({ entry.blockIndex, subrDataCopy });
1045                    ARDOut << "   loopssaId2Map: " <<
1046                            entry.blockIndex << "\n";
1047                    joinLastSSAIdMap(subrData.lastSSAIdMap,
1048                            loopsit2->second.ssaIdMap, subrData, true);
1049                    ARDOut << "   loopssaIdMap2End: \n";
1050                    if (applyToMainRoutine)
1051                        joinLastSSAIdMap(rdata.lastSSAIdMap, loopsit2->second.ssaIdMap,
1052                                        subrDataCopy, true);
1053                }
1054            }
1055           
1056            // apply loop to subroutines
1057            auto it = loopSubrsMap.find(entry.blockIndex);
1058            if (it != loopSubrsMap.end())
1059            {
1060                ARDOut << "    found loopsubrsmap: " << entry.blockIndex << ":";
1061                for (BlockIndex subr: it->second)
1062                {
1063                    ARDOut << " " << subr;
1064                    RoutineData* subrData2 = subroutinesCache.use(subr);
1065                    if (subrData2 == nullptr)
1066                        continue;
1067                    RoutineData subrData2Copy = *subrData2;
1068                    ARDOut << "*";
1069                    joinLastSSAIdMap(subrData2Copy.lastSSAIdMap,
1070                            loopsit2->second.ssaIdMap, subrDataCopy, false);
1071                    // reinsert subroutine into subroutine cache
1072                    subrData2Copy.calculateWeight();
1073                    subroutinesCache.put(subr, subrData2Copy);
1074                }
1075                ARDOut << "\n";
1076            }
1077            // apply loops to this subroutine
1078            auto it2 = subrLoopsMap.find(entry.blockIndex);
1079            if (it2 != subrLoopsMap.end())
1080            {
1081                ARDOut << "    found subrloopsmap: " << entry.blockIndex << ":";
1082                for (auto lit2 = it2->second.rbegin(); lit2 != it2->second.rend(); ++lit2)
1083                {
1084                    BlockIndex loop = *lit2;
1085                    auto loopsit3 = rdata.loopEnds.find(loop);
1086                    if (loopsit3 == rdata.loopEnds.end() ||
1087                        activeLoops.hasValue(loop))
1088                        continue;
1089                    ARDOut << " " << loop;
1090                    auto  itx = subrDataForLoopMap.find(loop);
1091                    if (itx != subrDataForLoopMap.end())
1092                        joinLastSSAIdMap(subrData.lastSSAIdMap,
1093                                loopsit3->second.ssaIdMap, itx->second, false);
1094                }
1095                ARDOut << "\n";
1096            }
1097           
1098            subrData.calculateWeight();
1099            subroutinesCache.put(entry.blockIndex, subrData);
1100        };
1101       
1102        if (entry.nextIndex == 0)
1103        {
1104            bool isLoop = loopBlocks.find(entry.blockIndex) != loopBlocks.end();
1105           
1106            if (!prevFlowStackBlocks.empty() && prevFlowStackBlocks[entry.blockIndex])
1107            {
1108                tryAddLoopEnd(entry, routineBlock, rdata, isLoop, noMainLoop);
1109               
1110                if (!fromSubroutine)
1111                    flowStackBlocks[entry.blockIndex] = !flowStackBlocks[entry.blockIndex];
1112                flowStack.pop_back();
1113                continue;
1114            }
1115           
1116            // process current block
1117            const RoutineData* cachedRdata = nullptr;
1118           
1119            if (routineBlock != entry.blockIndex)
1120            {
1121                cachedRdata = subroutinesCache.use(entry.blockIndex);
1122                if (cachedRdata == nullptr)
1123                {
1124                    // try in routine map
1125                    auto rit = routineMap.find(entry.blockIndex);
1126                    if (rit != routineMap.end())
1127                        cachedRdata = &rit->second;
1128                }
1129                if (!isLoop && visited[entry.blockIndex] && cachedRdata == nullptr &&
1130                    subroutToCache.count(entry.blockIndex)!=0)
1131                {
1132                    auto loopsit2 = rdata.loopEnds.find(entry.blockIndex);
1133                    ARDOut << "-- subrcache2 for " << entry.blockIndex << "\n";
1134                    addSubroutine(loopsit2, false);
1135                    cachedRdata = subroutinesCache.use(entry.blockIndex);
1136                }
1137            }
1138           
1139            if (cachedRdata != nullptr)
1140            {
1141                ARDOut << "use cached subr " << entry.blockIndex << "\n";
1142                ARDOut << "procret2: " << entry.blockIndex << "\n";
1143                if (visited[entry.blockIndex] && !haveReturnBlocks[entry.blockIndex])
1144                {
1145                    // no joining. no returns
1146                    ARDOut << "procretend2 nojoin\n";
1147                    if (!fromSubroutine)
1148                        flowStackBlocks[entry.blockIndex] =
1149                                    !flowStackBlocks[entry.blockIndex];
1150                    flowStack.pop_back();
1151                    continue;
1152                }
1153                joinLastSSAIdMap(rdata.lastSSAIdMap, rdata.curSSAIdMap, *cachedRdata);
1154                // get not given rdata curSSAIdMap ssaIds but present in cachedRdata
1155                // curSSAIdMap
1156                for (const auto& entry: cachedRdata->curSSAIdMap)
1157                    if (rdata.curSSAIdMap.find(entry.first) == rdata.curSSAIdMap.end())
1158                    {
1159                        auto cit = curSSAIdMap.find(entry.first);
1160                        size_t prevSSAId = (cit!=curSSAIdMap.end() ? cit->second : 1)-1;
1161                        rdata.curSSAIdMap.insert({ entry.first, { prevSSAId } });
1162                       
1163                        if (rdata.notFirstReturn)
1164                        {
1165                            rdata.lastSSAIdMap.insertSSAId(entry.first, prevSSAId);
1166                            for (auto& loopEnd: rdata.loopEnds)
1167                                loopEnd.second.ssaIdMap.
1168                                        insertSSAId(entry.first, prevSSAId);
1169                        }
1170                    }
1171               
1172                // join loopEnds
1173                for (const auto& loopEnd: cachedRdata->loopEnds)
1174                {
1175                    auto res = rdata.loopEnds.insert({ loopEnd.first, LoopSSAIdMap{} });
1176                    // true - do not add cached rdata loopend, because it was added
1177                    joinLastSSAIdMapInt(res.first->second.ssaIdMap, rdata.curSSAIdMap,
1178                                cachedRdata->curSSAIdMap, loopEnd.second.ssaIdMap, true);
1179                }
1180                ARDOut << "procretend2\n";
1181                if (!fromSubroutine)
1182                    flowStackBlocks[entry.blockIndex] = !flowStackBlocks[entry.blockIndex];
1183                flowStack.pop_back();
1184                // propagate haveReturn to previous block
1185                flowStack.back().haveReturn = true;
1186                haveReturnBlocks[flowStack.back().blockIndex] = true;
1187                continue;
1188            }
1189            else if (!visited[entry.blockIndex])
1190            {
1191                // set up loops for which subroutine is present
1192                if (subroutToCache.count(entry.blockIndex)!=0 && !activeLoops.empty())
1193                {
1194                    subrLoopsMap.insert({ entry.blockIndex, activeLoops });
1195                    for (BlockIndex loop: activeLoops)
1196                    {
1197                        auto res = loopSubrsMap.insert({ loop, { entry.blockIndex } });
1198                        if (!res.second)
1199                            res.first->second.insertValue(entry.blockIndex);
1200                    }
1201                }
1202               
1203                if (loopBlocks.find(entry.blockIndex) != loopBlocks.end())
1204                    activeLoops.insertValue(entry.blockIndex);
1205                ARDOut << "proc: " << entry.blockIndex << "\n";
1206                visited[entry.blockIndex] = true;
1207               
1208                for (const auto& ssaEntry: cblock.ssaInfoMap)
1209                    if (ssaEntry.first.regVar != nullptr)
1210                    {
1211                        reduceSSAIds2(curSSAIdMap, retSSAIdMap, entry, ssaEntry);
1212                        // put data to routine data
1213                        updateRoutineData(rdata, ssaEntry, curSSAIdMap[ssaEntry.first]-1);
1214                       
1215                        if (ssaEntry.second.ssaIdChange!=0)
1216                            curSSAIdMap[ssaEntry.first] = ssaEntry.second.ssaIdLast+1;
1217                    }
1218            }
1219            else
1220            {
1221                tryAddLoopEnd(entry, routineBlock, rdata, isLoop, noMainLoop);
1222                if (!fromSubroutine)
1223                    flowStackBlocks[entry.blockIndex] = !flowStackBlocks[entry.blockIndex];
1224                flowStack.pop_back();
1225                continue;
1226            }
1227        }
1228       
1229        // join and skip calls
1230        {
1231            std::vector<BlockIndex> calledRoutines;
1232            for (; entry.nextIndex < cblock.nexts.size() &&
1233                        cblock.nexts[entry.nextIndex].isCall; entry.nextIndex++)
1234            {
1235                BlockIndex rblock = cblock.nexts[entry.nextIndex].block;
1236                if (callBlocks.find(rblock) != callBlocks.end())
1237                    rblock.pass = 1;
1238                if (rblock != routineBlock)
1239                    calledRoutines.push_back(rblock);
1240            }
1241           
1242            if (!calledRoutines.empty())
1243            {
1244                // toNotClear - regvar to no keep (because is used in called routines)
1245                std::unordered_set<AsmSingleVReg> toNotClear;
1246                // if regvar any called routine (used)
1247                std::unordered_set<AsmSingleVReg> allInCalls;
1248                for (BlockIndex rblock: calledRoutines)
1249                {
1250                    const RoutineData& srcRdata = routineMap.find(rblock)->second;
1251                    // for next recursion pass call - choose origRvwSSAIdMap
1252                    // otherwise - standard rbwSsaIdMap
1253                    const std::unordered_map<AsmSingleVReg, size_t>& srcRbwSSAIdMap =
1254                        (entry.blockIndex.pass == 0 && rblock.pass!=0) ?
1255                        srcRdata.origRbwSSAIdMap : srcRdata.rbwSSAIdMap;
1256                    if (entry.blockIndex.pass == 0 && rblock.pass!=0)
1257                        ARDOut << "choose origRbwSSAIdMap: " << rblock << "\n";
1258                       
1259                    for (const auto& rbw: srcRbwSSAIdMap)
1260                    {
1261                        allInCalls.insert(rbw.first);
1262                        auto lsit = srcRdata.lastSSAIdMap.find(rbw.first);
1263                        if (lsit != srcRdata.lastSSAIdMap.end() &&
1264                             lsit->second.hasValue(rbw.second))
1265                            // if returned not modified, then do not clear this regvar
1266                            toNotClear.insert(rbw.first);
1267                    }
1268                    for (const auto& rbw: srcRdata.lastSSAIdMap)
1269                        allInCalls.insert(rbw.first);
1270                }
1271                for (auto& entry: rdata.curSSAIdMap)
1272                    // if any called routine and if to clear
1273                    if (allInCalls.find(entry.first) != allInCalls.end() &&
1274                        toNotClear.find(entry.first) == toNotClear.end())
1275                        // not found
1276                        entry.second.clear();
1277           
1278                for (BlockIndex rblock: calledRoutines)
1279                    joinRoutineData(rdata, routineMap.find(rblock)->second,
1280                                    curSSAIdMap, rdata.notFirstReturn);
1281            }
1282        }
1283       
1284        if (entry.nextIndex < cblock.nexts.size())
1285        {
1286            const BlockIndex nextBlock = { cblock.nexts[entry.nextIndex].block,
1287                        entry.blockIndex.pass };
1288            flowStack.push_back({ nextBlock, 0 });
1289            // negate - if true (already in flowstack, then popping keep this state)
1290            if (!fromSubroutine)
1291                flowStackBlocks[nextBlock] = !flowStackBlocks[nextBlock];
1292            entry.nextIndex++;
1293        }
1294        else if (((entry.nextIndex==0 && cblock.nexts.empty()) ||
1295                // if have any call then go to next block
1296                (cblock.haveCalls && entry.nextIndex==cblock.nexts.size())) &&
1297                 !cblock.haveReturn && !cblock.haveEnd)
1298        {
1299            if (entry.nextIndex!=0) // if back from calls (just return from calls)
1300            {
1301                for (const NextBlock& next: cblock.nexts)
1302                    if (next.isCall)
1303                    {
1304                        //ARDOut << "joincall:"<< next.block << "\n";
1305                        BlockIndex rblock(next.block, entry.blockIndex.pass);
1306                        if (callBlocks.find(next.block) != callBlocks.end())
1307                            rblock.pass = 1;
1308                        auto it = routineMap.find(rblock); // must find
1309                        initializePrevRetSSAIds(curSSAIdMap, retSSAIdMap,
1310                                    it->second, entry);
1311                       
1312                        joinRetSSAIdMap(retSSAIdMap, it->second.lastSSAIdMap, rblock);
1313                    }
1314            }
1315            const BlockIndex nextBlock = entry.blockIndex+1;
1316            flowStack.push_back({ nextBlock, 0 });
1317            // negate - if true (already in flowstack, then popping keep this state)
1318            if (!fromSubroutine)
1319                flowStackBlocks[nextBlock] = !flowStackBlocks[nextBlock];
1320            entry.nextIndex++;
1321        }
1322        else
1323        {
1324            ARDOut << "popstart: " << entry.blockIndex << "\n";
1325            if (cblock.haveReturn)
1326            {
1327                ARDOut << "procret: " << entry.blockIndex << "\n";
1328                joinLastSSAIdMap(rdata.lastSSAIdMap, rdata.curSSAIdMap);
1329                ARDOut << "procretend\n";
1330                rdata.notFirstReturn = true;
1331                entry.haveReturn = true;
1332                haveReturnBlocks[entry.blockIndex] = true;
1333            }
1334           
1335            const bool curHaveReturn = entry.haveReturn;
1336           
1337            // revert retSSAIdMap
1338            revertRetSSAIdMap(curSSAIdMap, retSSAIdMap, entry, &rdata);
1339            //
1340           
1341            for (const auto& ssaEntry: cblock.ssaInfoMap)
1342            {
1343                if (ssaEntry.first.regVar == nullptr)
1344                    continue;
1345                size_t curSSAId = ssaEntry.second.ssaIdBefore+1;
1346                size_t nextSSAId = (ssaEntry.second.ssaIdLast != SIZE_MAX) ?
1347                    ssaEntry.second.ssaIdLast+1 : curSSAId;
1348                curSSAIdMap[ssaEntry.first] = curSSAId;
1349               
1350                ARDOut << "popcurnext: " << ssaEntry.first.regVar <<
1351                            ":" << ssaEntry.first.index << ": " <<
1352                            nextSSAId << ", " << curSSAId << "\n";
1353               
1354                updateRoutineCurSSAIdMap(&rdata, ssaEntry, entry, curSSAId, nextSSAId);
1355            }
1356           
1357            activeLoops.eraseValue(entry.blockIndex);
1358           
1359            auto loopsit2 = rdata.loopEnds.find(entry.blockIndex);
1360            if (loopBlocks.find(entry.blockIndex) != loopBlocks.end())
1361            {
1362                if (loopsit2 != rdata.loopEnds.end())
1363                {
1364                    ARDOut << "   mark loopblocks passed: " <<
1365                                entry.blockIndex << "\n";
1366                    // mark that loop has passed fully
1367                    loopsit2->second.passed = true;
1368                }
1369                else
1370                    ARDOut << "   loopblocks nopassed: " <<
1371                                entry.blockIndex << "\n";
1372            }
1373           
1374            if ((!noMainLoop || flowStack.size() > 1) &&
1375                subroutToCache.count(entry.blockIndex)!=0)
1376            { //put to cache
1377                ARDOut << "-- subrcache for " << entry.blockIndex << "\n";
1378                addSubroutine(loopsit2, true);
1379            }
1380           
1381            if (!fromSubroutine)
1382                flowStackBlocks[entry.blockIndex] = false;
1383            ARDOut << "pop: " << entry.blockIndex << "\n";
1384           
1385            flowStack.pop_back();
1386            // set up haveReturn
1387            if (!flowStack.empty())
1388            {
1389                flowStack.back().haveReturn |= curHaveReturn;
1390                haveReturnBlocks[flowStack.back().blockIndex] =
1391                        flowStack.back().haveReturn;
1392            }
1393        }
1394    }
1395   
1396    /*if (prevFlowStackBlocks.empty())
1397        assert(std::find(flowStackBlocks.begin(), flowStackBlocks.end(), true)
1398                    == flowStackBlocks.end());
1399    else
1400        assert(flowStackBlocks == prevFlowStackBlocks);*/
1401    ARDOut << "--------- createRoutineData end ------------\n";
1402}
1403
1404void AsmRegAllocator::createSSAData(ISAUsageHandler& usageHandler)
1405{
1406    if (codeBlocks.empty())
1407        return;
1408    usageHandler.rewind();
1409    auto cbit = codeBlocks.begin();
1410    AsmRegVarUsage rvu;
1411    if (!usageHandler.hasNext())
1412        return; // do nothing if no regusages
1413    ISAUsageHandler::ReadPos oldReadPos = usageHandler.getReadPos();
1414    rvu = usageHandler.nextUsage();
1415   
1416    cxuint regRanges[MAX_REGTYPES_NUM*2];
1417    cxuint realRegsCount[MAX_REGTYPES_NUM];
1418    std::fill(realRegsCount, realRegsCount+MAX_REGTYPES_NUM, 0);
1419    size_t regTypesNum;
1420    assembler.isaAssembler->getRegisterRanges(regTypesNum, regRanges);
1421   
1422    while (true)
1423    {
1424        while (cbit != codeBlocks.end() && cbit->end <= rvu.offset)
1425        {
1426            cbit->usagePos = oldReadPos;
1427            ++cbit;
1428        }
1429        if (cbit == codeBlocks.end())
1430            break;
1431        // skip rvu's before codeblock
1432        while (rvu.offset < cbit->start && usageHandler.hasNext())
1433        {
1434            oldReadPos = usageHandler.getReadPos();
1435            rvu = usageHandler.nextUsage();
1436        }
1437        if (rvu.offset < cbit->start)
1438            break;
1439       
1440        cbit->usagePos = oldReadPos;
1441        while (rvu.offset < cbit->end)
1442        {
1443            // process rvu
1444            // only if regVar
1445            for (uint16_t rindex = rvu.rstart; rindex < rvu.rend; rindex++)
1446            {
1447                auto res = cbit->ssaInfoMap.insert(
1448                        { AsmSingleVReg{ rvu.regVar, rindex }, SSAInfo() });
1449               
1450                SSAInfo& sinfo = res.first->second;
1451                if (res.second)
1452                    sinfo.firstPos = rvu.offset;
1453                sinfo.lastPos = rvu.offset;
1454               
1455                if ((rvu.rwFlags & ASMRVU_READ) != 0 && (sinfo.ssaIdChange == 0 ||
1456                    // if first write RVU instead read RVU
1457                    (sinfo.ssaIdChange == 1 && sinfo.firstPos==rvu.offset)))
1458                    sinfo.readBeforeWrite = true;
1459                /* change SSA id only for write-only regvars -
1460                 *   read-write place can not have two different variables */
1461                if (rvu.rwFlags == ASMRVU_WRITE && rvu.regField!=ASMFIELD_NONE)
1462                    sinfo.ssaIdChange++;
1463                if (rvu.regVar==nullptr)
1464                    sinfo.ssaIdBefore = sinfo.ssaIdFirst =
1465                            sinfo.ssaId = sinfo.ssaIdLast = 0;
1466            }
1467            // get next rvusage
1468            if (!usageHandler.hasNext())
1469                break;
1470            oldReadPos = usageHandler.getReadPos();
1471            rvu = usageHandler.nextUsage();
1472        }
1473        ++cbit;
1474    }
1475   
1476    size_t rbwCount = 0;
1477    size_t wrCount = 0;
1478   
1479    SimpleCache<BlockIndex, RoutineData> subroutinesCache(codeBlocks.size()<<3);
1480   
1481    std::deque<CallStackEntry> callStack;
1482    std::deque<FlowStackEntry> flowStack;
1483    // total SSA count
1484    std::unordered_map<AsmSingleVReg, size_t> totalSSACountMap;
1485    // last SSA ids map from returns
1486    RetSSAIdMap retSSAIdMap;
1487    // last SSA ids in current way in code flow
1488    std::unordered_map<AsmSingleVReg, size_t> curSSAIdMap;
1489    // routine map - routine datas map, value - last SSA ids map
1490    RoutineMap routineMap;
1491    // key - current res first key, value - previous first key and its flowStack pos
1492    PrevWaysIndexMap prevWaysIndexMap;
1493    // to track ways last block indices pair: block index, flowStackPos)
1494    std::pair<size_t, size_t> lastCommonCacheWayPoint{ SIZE_MAX, SIZE_MAX };
1495    CBlockBitPool isRoutineGen(codeBlocks.size(), false);
1496   
1497    CBlockBitPool waysToCache(codeBlocks.size(), false);
1498    CBlockBitPool flowStackBlocks(codeBlocks.size(), false);
1499   
1500    CBlockBitPool prevCallFlowStackBlocks;
1501    CBlockBitPool callFlowStackBlocks(codeBlocks.size(), false);
1502    // subroutToCache - true if given block begin subroutine to cache
1503    ResSecondPointsToCache cblocksToCache(codeBlocks.size());
1504    CBlockBitPool visited(codeBlocks.size(), false);
1505    flowStack.push_back({ 0, 0 });
1506    flowStackBlocks[0] = true;
1507    std::unordered_set<BlockIndex> callBlocks;
1508    std::unordered_set<BlockIndex> loopBlocks;
1509    std::unordered_set<size_t> recurseBlocks;
1510   
1511    /** INFO if you want to get code changedRegVars between recursions you get 3984
1512     * this stuff has been deleted */
1513   
1514    std::unordered_map<size_t, std::unordered_map<AsmSingleVReg, size_t> >
1515            curSSAIdMapStateMap;
1516   
1517    /*
1518     * main loop to fill up ssaInfos
1519     */
1520    while (!flowStack.empty())
1521    {
1522        FlowStackEntry& entry = flowStack.back();
1523        CodeBlock& cblock = codeBlocks[entry.blockIndex.index];
1524       
1525        if (entry.nextIndex == 0)
1526        {
1527            // process current block
1528            if (!visited[entry.blockIndex])
1529            {
1530                ARDOut << "proc: " << entry.blockIndex << "\n";
1531                visited[entry.blockIndex] = true;
1532               
1533                for (auto& ssaEntry: cblock.ssaInfoMap)
1534                {
1535                    SSAInfo& sinfo = ssaEntry.second;
1536                    if (ssaEntry.first.regVar==nullptr)
1537                    {
1538                        // TODO - pass registers through SSA marking and resolving
1539                        sinfo.ssaIdChange = 0; // zeroing SSA changes
1540                        continue; // no change for registers
1541                    }
1542                   
1543                    if (sinfo.ssaId != SIZE_MAX)
1544                    {
1545                        // already initialized
1546                        reduceSSAIds(curSSAIdMap, retSSAIdMap,
1547                                routineMap, ssaReplacesMap, entry, ssaEntry);
1548                        if (sinfo.ssaIdChange!=0)
1549                            curSSAIdMap[ssaEntry.first] = sinfo.ssaIdLast+1;
1550                       
1551                        // count read before writes (for cache weight)
1552                        if (sinfo.readBeforeWrite)
1553                            rbwCount++;
1554                        if (sinfo.ssaIdChange!=0)
1555                            wrCount++;
1556                        continue;
1557                    }
1558                   
1559                    bool reducedSSAId = reduceSSAIds(curSSAIdMap, retSSAIdMap,
1560                                routineMap, ssaReplacesMap, entry, ssaEntry);
1561                   
1562                    size_t& ssaId = curSSAIdMap[ssaEntry.first];
1563                   
1564                    size_t& totalSSACount = totalSSACountMap[ssaEntry.first];
1565                    if (totalSSACount == 0)
1566                    {
1567                        // first read before write at all, need change totalcount, ssaId
1568                        ssaId++;
1569                        totalSSACount++;
1570                    }
1571                   
1572                    sinfo.ssaId = totalSSACount;
1573                    sinfo.ssaIdFirst = sinfo.ssaIdChange!=0 ? totalSSACount : SIZE_MAX;
1574                    sinfo.ssaIdBefore = ssaId-1;
1575                   
1576                    totalSSACount += sinfo.ssaIdChange;
1577                    sinfo.ssaIdLast = sinfo.ssaIdChange!=0 ? totalSSACount-1 : SIZE_MAX;
1578                    //totalSSACount = std::max(totalSSACount, ssaId);
1579                    if (!reducedSSAId || sinfo.ssaIdChange!=0)
1580                        ssaId = totalSSACount;
1581                   
1582                    // count read before writes (for cache weight)
1583                    if (sinfo.readBeforeWrite)
1584                        rbwCount++;
1585                    if (sinfo.ssaIdChange!=0)
1586                        wrCount++;
1587                }
1588            }
1589            else
1590            {
1591                size_t pass = entry.blockIndex.pass;
1592                cblocksToCache.increase(entry.blockIndex);
1593                ARDOut << "cblockToCache: " << entry.blockIndex << "=" <<
1594                            cblocksToCache.count(entry.blockIndex) << "\n";
1595                // back, already visited
1596                flowStackBlocks[entry.blockIndex] = !flowStackBlocks[entry.blockIndex];
1597                flowStack.pop_back();
1598               
1599                if (pass != 0)
1600                    continue;
1601                size_t curWayBIndex = flowStack.back().blockIndex.index;
1602                if (lastCommonCacheWayPoint.first != SIZE_MAX)
1603                {
1604                    // mark point of way to cache (res first point)
1605                    waysToCache[lastCommonCacheWayPoint.first] = true;
1606                    ARDOut << "mark to pfcache " <<
1607                            lastCommonCacheWayPoint.first << ", " <<
1608                            curWayBIndex << "\n";
1609                    prevWaysIndexMap[curWayBIndex] = lastCommonCacheWayPoint;
1610                }
1611                lastCommonCacheWayPoint = { curWayBIndex, flowStack.size()-1 };
1612                ARDOut << "lastCcwP: " << curWayBIndex << "\n";
1613                continue;
1614            }
1615        }
1616       
1617        if (!callStack.empty() &&
1618            entry.blockIndex == callStack.back().callBlock &&
1619            entry.nextIndex-1 == callStack.back().callNextIndex)
1620        {
1621            ARDOut << " ret: " << entry.blockIndex << "\n";
1622            const BlockIndex routineBlock = callStack.back().routineBlock;
1623            RoutineData& prevRdata = routineMap.find(routineBlock)->second;
1624            if (!isRoutineGen[routineBlock])
1625            {
1626                createRoutineData(codeBlocks, curSSAIdMap, loopBlocks, callBlocks,
1627                            cblocksToCache, subroutinesCache, routineMap, prevRdata,
1628                            routineBlock, prevCallFlowStackBlocks, callFlowStackBlocks);
1629                isRoutineGen[routineBlock] = true;
1630               
1631                auto csimsmit = curSSAIdMapStateMap.find(routineBlock.index);
1632                if (csimsmit != curSSAIdMapStateMap.end() && entry.blockIndex.pass==0)
1633                {
1634                    ARDOut << " get curSSAIdMap from back recur 2\n";
1635                    curSSAIdMap = csimsmit->second;
1636                    curSSAIdMapStateMap.erase(csimsmit);
1637                }
1638            }
1639           
1640            callStack.pop_back(); // just return from call
1641            callBlocks.erase(routineBlock);
1642        }
1643       
1644        if (entry.nextIndex < cblock.nexts.size())
1645        {
1646            bool isCall = false;
1647            BlockIndex nextBlock = cblock.nexts[entry.nextIndex].block;
1648            nextBlock.pass = entry.blockIndex.pass;
1649            if (cblock.nexts[entry.nextIndex].isCall)
1650            {
1651                if (!callBlocks.insert(nextBlock).second)
1652                {
1653                    // if already called (then it is recursion)
1654                    if (recurseBlocks.insert(nextBlock.index).second)
1655                    {
1656                        ARDOut << "   -- recursion: " << nextBlock << "\n";
1657                        nextBlock.pass = 1;
1658                       
1659                        curSSAIdMapStateMap.insert({ nextBlock.index,  curSSAIdMap });
1660                    }
1661                    else if (entry.blockIndex.pass==1)
1662                    {
1663                        entry.nextIndex++;
1664                        ARDOut << " NO call (rec): " << entry.blockIndex << "\n";
1665                        continue;
1666                    }
1667                }
1668                else if (entry.blockIndex.pass==1 &&
1669                    recurseBlocks.find(nextBlock.index) != recurseBlocks.end())
1670                {
1671                    entry.nextIndex++;
1672                    ARDOut << " NO call (rec)2: " << entry.blockIndex << "\n";
1673                    continue;
1674                }
1675               
1676                ARDOut << " call: " << entry.blockIndex << "\n";
1677               
1678                callStack.push_back({ entry.blockIndex, entry.nextIndex, nextBlock });
1679                routineMap.insert({ nextBlock, { } });
1680                isCall = true;
1681            }
1682           
1683            flowStack.push_back({ nextBlock, 0, isCall });
1684            if (flowStackBlocks[nextBlock])
1685            {
1686                if (!cblock.nexts[entry.nextIndex].isCall)
1687                    loopBlocks.insert(nextBlock);
1688                flowStackBlocks[nextBlock] = false; // keep to inserted in popping
1689            }
1690            else
1691                flowStackBlocks[nextBlock] = true;
1692            entry.nextIndex++;
1693        }
1694        else if (((entry.nextIndex==0 && cblock.nexts.empty()) ||
1695                // if have any call then go to next block
1696                (cblock.haveCalls && entry.nextIndex==cblock.nexts.size())) &&
1697                 !cblock.haveReturn && !cblock.haveEnd)
1698        {
1699            if (entry.nextIndex!=0) // if back from calls (just return from calls)
1700            {
1701                reduceSSAIdsForCalls(entry, codeBlocks, retSSAIdMap, routineMap,
1702                                     ssaReplacesMap);
1703                //
1704                for (const NextBlock& next: cblock.nexts)
1705                    if (next.isCall)
1706                    {
1707                        //ARDOut << "joincall:"<< next.block << "\n";
1708                        size_t pass = 0;
1709                        if (callBlocks.find(next.block) != callBlocks.end())
1710                        {
1711                            ARDOut << " is secpass: " << entry.blockIndex << " : " <<
1712                                    next.block << "\n";
1713                            pass = 1; // it ways second pass
1714                        }
1715                       
1716                        auto it = routineMap.find({ next.block, pass }); // must find
1717                        initializePrevRetSSAIds(curSSAIdMap, retSSAIdMap,
1718                                    it->second, entry);
1719                       
1720                        BlockIndex rblock(next.block, entry.blockIndex.pass);
1721                        if (callBlocks.find(next.block) != callBlocks.end())
1722                            rblock.pass = 1;
1723                       
1724                        joinRetSSAIdMap(retSSAIdMap, it->second.lastSSAIdMap, rblock);
1725                    }
1726            }
1727           
1728            flowStack.push_back({ entry.blockIndex+1, 0, false });
1729            if (flowStackBlocks[entry.blockIndex+1])
1730            {
1731                loopBlocks.insert(entry.blockIndex+1);
1732                 // keep to inserted in popping
1733                flowStackBlocks[entry.blockIndex+1] = false;
1734            }
1735            else
1736                flowStackBlocks[entry.blockIndex+1] = true;
1737            entry.nextIndex++;
1738        }
1739        else // back
1740        {
1741            // revert retSSAIdMap
1742            revertRetSSAIdMap(curSSAIdMap, retSSAIdMap, entry, nullptr);
1743            //
1744           
1745            for (const auto& ssaEntry: cblock.ssaInfoMap)
1746            {
1747                if (ssaEntry.first.regVar == nullptr)
1748                    continue;
1749               
1750                size_t& curSSAId = curSSAIdMap[ssaEntry.first];
1751                const size_t nextSSAId = curSSAId;
1752                curSSAId = ssaEntry.second.ssaIdBefore+1;
1753               
1754                ARDOut << "popcurnext: " << ssaEntry.first.regVar <<
1755                            ":" << ssaEntry.first.index << ": " <<
1756                            nextSSAId << ", " << curSSAId << "\n";
1757            }
1758           
1759            ARDOut << "pop: " << entry.blockIndex << "\n";
1760            flowStackBlocks[entry.blockIndex] = false;
1761           
1762            if (!flowStack.empty() && flowStack.back().isCall)
1763            {
1764                auto csimsmit = curSSAIdMapStateMap.find(entry.blockIndex.index);
1765                if (csimsmit != curSSAIdMapStateMap.end())
1766                {
1767                    ARDOut << " get curSSAIdMap from back recur\n";
1768                    curSSAIdMap = csimsmit->second;
1769                }
1770            }
1771           
1772            flowStack.pop_back();
1773           
1774            if (!flowStack.empty() && lastCommonCacheWayPoint.first != SIZE_MAX &&
1775                    lastCommonCacheWayPoint.second >= flowStack.size() &&
1776                    flowStack.back().blockIndex.pass == 0)
1777            {
1778                lastCommonCacheWayPoint =
1779                        { flowStack.back().blockIndex.index, flowStack.size()-1 };
1780                ARDOut << "POPlastCcwP: " << lastCommonCacheWayPoint.first << "\n";
1781            }
1782        }
1783    }
1784   
1785    /**********
1786     * after that, we find points to resolve conflicts
1787     **********/
1788    flowStack.clear();
1789    std::deque<FlowStackEntry2> flowStack2;
1790   
1791    std::fill(visited.begin(), visited.end(), false);
1792    flowStack2.push_back({ 0, 0 });
1793   
1794    SimpleCache<size_t, LastSSAIdMap> resFirstPointsCache(wrCount<<1);
1795    SimpleCache<size_t, RBWSSAIdMap> resSecondPointsCache(rbwCount<<1);
1796   
1797    while (!flowStack2.empty())
1798    {
1799        FlowStackEntry2& entry = flowStack2.back();
1800        CodeBlock& cblock = codeBlocks[entry.blockIndex];
1801       
1802        if (entry.nextIndex == 0)
1803        {
1804            // process current block
1805            if (!visited[entry.blockIndex])
1806                visited[entry.blockIndex] = true;
1807            else
1808            {
1809                resolveSSAConflicts(flowStack2, routineMap, codeBlocks,
1810                            prevWaysIndexMap, waysToCache, cblocksToCache,
1811                            resFirstPointsCache, resSecondPointsCache, ssaReplacesMap);
1812               
1813                // back, already visited
1814                flowStack2.pop_back();
1815                continue;
1816            }
1817        }
1818       
1819        if (entry.nextIndex < cblock.nexts.size())
1820        {
1821            flowStack2.push_back({ cblock.nexts[entry.nextIndex].block, 0 });
1822            entry.nextIndex++;
1823        }
1824        else if (((entry.nextIndex==0 && cblock.nexts.empty()) ||
1825                // if have any call then go to next block
1826                (cblock.haveCalls && entry.nextIndex==cblock.nexts.size())) &&
1827                 !cblock.haveReturn && !cblock.haveEnd)
1828        {
1829            flowStack2.push_back({ entry.blockIndex+1, 0 });
1830            entry.nextIndex++;
1831        }
1832        else // back
1833        {
1834            if (cblocksToCache.count(entry.blockIndex)==2 &&
1835                !resSecondPointsCache.hasKey(entry.blockIndex))
1836                // add to cache
1837                addResSecCacheEntry(routineMap, codeBlocks, resSecondPointsCache,
1838                            entry.blockIndex);
1839            flowStack2.pop_back();
1840        }
1841    }
1842}
Note: See TracBrowser for help on using the repository browser.