numeric calculation bug as of 16.2-2

Поиск
Список
Период
Сортировка
От Huw Rogers
Тема numeric calculation bug as of 16.2-2
Дата
Msg-id CACu6R2qT6nTTWWQ+VKRzCqnZFXJg99Q_8nv59Jy48nrzovOCTw@mail.gmail.com
обсуждение исходный текст
Ответы Re: numeric calculation bug as of 16.2-2
Список pgsql-bugs
Дерево обсуждения
Straightforward calculation bug. ((2^127)/(2^63))*(2^63) != (2^127). This prevents a reliable uint128<->numeric cast function (which is how I ran into it). See below for test case. -Huw

] psql test
psql (16.2)
Type "help" for help.

test=# select ('170141183460469231731687303715884105727'::numeric / '9223372036854775808'::numeric) * '9223372036854775808'::numeric;
                ?column?                
-----------------------------------------
 170141183460469231731687303715884105728
(1 row)


В списке pgsql-bugs по дате отправления:

Предыдущее
От: Tom Lane
Дата:
Сообщение: Re: [EXTERNAL] Re: Windows Application Issues | PostgreSQL | REF # 48475607
Следующее
От: David Rowley
Дата:
Сообщение: Re: numeric calculation bug as of 16.2-2