Re: Math Huh?

Поиск
Список
Период
Сортировка
От David Stanaway
Тема Re: Math Huh?
Дата
Msg-id 1022802527.25795.7.camel@ciderbox
обсуждение исходный текст
Ответ на Math Huh?  (Josh Berkus <josh@agliodbs.com>)
Список pgsql-sql
On Thu, 2002-05-30 at 18:29, Josh Berkus wrote:
> Folks,
>
> I'll let this session speak for itself:
>
> jwnet=> select version();
>                             version
> ---------------------------------------------------------------
>  PostgreSQL 7.2.1 on i686-pc-linux-gnu, compiled by GCC 2.95.3
> (1 row)
>
> jwnet=> select (255 * 255 * 255 * 255);
>  ?column?
> -----------
>  -66716671
> (1 row)
scratch=# select (255 * 255 * 255 * 255::int8); ?column?
------------4228250625
(1 row)

$ bc -l
obase=16
4228250625
FC05FC01
^

You have overflowed a signed integer as the most significant bit is set.

--
David Stanaway


В списке pgsql-sql по дате отправления:

Предыдущее
От: Larry Rosenman
Дата:
Сообщение: Re: Math Huh?
Следующее
От: Josh Berkus
Дата:
Сообщение: Re: Math Huh?