Re: probably cause (and fix) for floating-point assist faults on itanium

Поиск
Список
Период
Сортировка
От Claudio Freire
Тема Re: probably cause (and fix) for floating-point assist faults on itanium
Дата
Msg-id CAGTBQpYjs8GHBk1mf__dYVH=4g7ZK2jHrN7ubNYJtYX+47OzNg@mail.gmail.com
обсуждение исходный текст
Ответ на probably cause (and fix) for floating-point assist faults on itanium  (Greg Matthews <gregory.a.matthews@nasa.gov>)
Ответы Re: probably cause (and fix) for floating-point assist faults on itanium  (Tom Lane <tgl@sss.pgh.pa.us>)
Список pgsql-performance
Дерево обсуждения 
On Thu, Nov 17, 2011 at 10:07 PM, Greg Matthews
<gregory.a.matthews@nasa.gov> wrote:
>        if (smoothed_alloc <= (float) recent_alloc)
>                smoothed_alloc = recent_alloc;
>        else if (smoothed_alloc >= 0.00001)
>                smoothed_alloc += ((float) recent_alloc - smoothed_alloc) /
>                        smoothing_samples;
>

I don't think that logic is sound.

Rather,

       if (smoothed_alloc <= (float) recent_alloc) {
               smoothed_alloc = recent_alloc;
       } else {
               if (smoothed_alloc < 0.000001)
                   smoothed_alloc = 0;
               smoothed_alloc += ((float) recent_alloc - smoothed_alloc) /
                       smoothing_samples;
       }

В списке pgsql-performance по дате отправления:

Предыдущее
От: MirrorX
Дата:
Сообщение: Re: index usage for min() vs. "order by asc limit 1"
Следующее
От: Tom Lane
Дата:
Сообщение: Re: probably cause (and fix) for floating-point assist faults on itanium