LCOV - code coverage report
Current view: top level - gcc - fold-const-call.cc (source / functions) Coverage Total Hit
Test: gcc.info Lines: 94.6 % 1035 979
Test Date: 2024-11-30 13:30:02 Functions: 85.7 % 42 36
Legend: Lines: hit not hit | Branches: + taken - not taken # not executed Branches: - 0 0

             Branch data     Line data    Source code
       1                 :             : /* Constant folding for calls to built-in and internal functions.
       2                 :             :    Copyright (C) 1988-2024 Free Software Foundation, Inc.
       3                 :             : 
       4                 :             : This file is part of GCC.
       5                 :             : 
       6                 :             : GCC is free software; you can redistribute it and/or modify it under
       7                 :             : the terms of the GNU General Public License as published by the Free
       8                 :             : Software Foundation; either version 3, or (at your option) any later
       9                 :             : version.
      10                 :             : 
      11                 :             : GCC is distributed in the hope that it will be useful, but WITHOUT ANY
      12                 :             : WARRANTY; without even the implied warranty of MERCHANTABILITY or
      13                 :             : FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
      14                 :             : for more details.
      15                 :             : 
      16                 :             : You should have received a copy of the GNU General Public License
      17                 :             : along with GCC; see the file COPYING3.  If not see
      18                 :             : <http://www.gnu.org/licenses/>.  */
      19                 :             : 
      20                 :             : #include "config.h"
      21                 :             : #include "system.h"
      22                 :             : #include "coretypes.h"
      23                 :             : #include "realmpfr.h"
      24                 :             : #include "tree.h"
      25                 :             : #include "stor-layout.h"
      26                 :             : #include "options.h"
      27                 :             : #include "fold-const.h"
      28                 :             : #include "fold-const-call.h"
      29                 :             : #include "case-cfn-macros.h"
      30                 :             : #include "tm.h" /* For C[LT]Z_DEFINED_VALUE_AT_ZERO.  */
      31                 :             : #include "builtins.h"
      32                 :             : #include "gimple-expr.h"
      33                 :             : #include "tree-vector-builder.h"
      34                 :             : 
      35                 :             : /* Functions that test for certain constant types, abstracting away the
      36                 :             :    decision about whether to check for overflow.  */
      37                 :             : 
      38                 :             : static inline bool
      39                 :    31885681 : integer_cst_p (tree t)
      40                 :             : {
      41                 :    31885681 :   return TREE_CODE (t) == INTEGER_CST && !TREE_OVERFLOW (t);
      42                 :             : }
      43                 :             : 
      44                 :             : static inline bool
      45                 :    36100227 : real_cst_p (tree t)
      46                 :             : {
      47                 :    36100227 :   return TREE_CODE (t) == REAL_CST && !TREE_OVERFLOW (t);
      48                 :             : }
      49                 :             : 
      50                 :             : static inline bool
      51                 :    21585855 : complex_cst_p (tree t)
      52                 :             : {
      53                 :    21585855 :   return TREE_CODE (t) == COMPLEX_CST;
      54                 :             : }
      55                 :             : 
      56                 :             : /* Return true if ARG is a size_type_node constant.
      57                 :             :    Store it in *SIZE_OUT if so.  */
      58                 :             : 
      59                 :             : static inline bool
      60                 :     2596729 : size_t_cst_p (tree t, unsigned HOST_WIDE_INT *size_out)
      61                 :             : {
      62                 :     2596729 :   if (types_compatible_p (size_type_node, TREE_TYPE (t))
      63                 :     2596574 :       && integer_cst_p (t)
      64                 :     4238569 :       && tree_fits_uhwi_p (t))
      65                 :             :     {
      66                 :     1641840 :       *size_out = tree_to_uhwi (t);
      67                 :     1641840 :       return true;
      68                 :             :     }
      69                 :             :   return false;
      70                 :             : }
      71                 :             : 
      72                 :             : /* RES is the result of a comparison in which < 0 means "less", 0 means
      73                 :             :    "equal" and > 0 means "more".  Canonicalize it to -1, 0 or 1 and
      74                 :             :    return it in type TYPE.  */
      75                 :             : 
      76                 :             : tree
      77                 :       66673 : build_cmp_result (tree type, int res)
      78                 :             : {
      79                 :       71744 :   return build_int_cst (type, res < 0 ? -1 : res > 0 ? 1 : 0);
      80                 :             : }
      81                 :             : 
      82                 :             : /* M is the result of trying to constant-fold an expression (starting
      83                 :             :    with clear MPFR flags) and INEXACT says whether the result in M is
      84                 :             :    exact or inexact.  Return true if M can be used as a constant-folded
      85                 :             :    result in format FORMAT, storing the value in *RESULT if so.  */
      86                 :             : 
      87                 :             : static bool
      88                 :      290003 : do_mpfr_ckconv (real_value *result, mpfr_srcptr m, bool inexact,
      89                 :             :                 const real_format *format)
      90                 :             : {
      91                 :             :   /* Proceed iff we get a normal number, i.e. not NaN or Inf and no
      92                 :             :      overflow/underflow occurred.  If -frounding-math, proceed iff the
      93                 :             :      result of calling FUNC was exact.  */
      94                 :      290003 :   if (!mpfr_number_p (m)
      95                 :      274284 :       || mpfr_overflow_p ()
      96                 :      274284 :       || mpfr_underflow_p ()
      97                 :      560577 :       || (flag_rounding_math && inexact))
      98                 :       19473 :     return false;
      99                 :             : 
     100                 :      270530 :   REAL_VALUE_TYPE tmp;
     101                 :      270530 :   real_from_mpfr (&tmp, m, format, MPFR_RNDN);
     102                 :             : 
     103                 :             :   /* Proceed iff GCC's REAL_VALUE_TYPE can hold the MPFR values.
     104                 :             :      If the REAL_VALUE_TYPE is zero but the mpfr_t is not, then we
     105                 :             :      underflowed in the conversion.  */
     106                 :      270530 :   if (!real_isfinite (&tmp)
     107                 :      270530 :       || ((tmp.cl == rvc_zero) != (mpfr_zero_p (m) != 0)))
     108                 :             :     return false;
     109                 :             : 
     110                 :      270530 :   real_convert (result, format, &tmp);
     111                 :      270530 :   return real_identical (result, &tmp);
     112                 :             : }
     113                 :             : 
     114                 :             : /* Try to evaluate:
     115                 :             : 
     116                 :             :       *RESULT = f (*ARG)
     117                 :             : 
     118                 :             :    in format FORMAT, given that FUNC is the MPFR implementation of f.
     119                 :             :    Return true on success.  */
     120                 :             : 
     121                 :             : static bool
     122                 :      137000 : do_mpfr_arg1 (real_value *result,
     123                 :             :               int (*func) (mpfr_ptr, mpfr_srcptr, mpfr_rnd_t),
     124                 :             :               const real_value *arg, const real_format *format)
     125                 :             : {
     126                 :             :   /* To proceed, MPFR must exactly represent the target floating point
     127                 :             :      format, which only happens when the target base equals two.  */
     128                 :      137000 :   if (format->b != 2 || !real_isfinite (arg))
     129                 :        2430 :     return false;
     130                 :             : 
     131                 :      134570 :   int prec = format->p;
     132                 :      134570 :   mpfr_rnd_t rnd = format->round_towards_zero ? MPFR_RNDZ : MPFR_RNDN;
     133                 :             : 
     134                 :      134570 :   auto_mpfr m (prec);
     135                 :      134570 :   mpfr_from_real (m, arg, MPFR_RNDN);
     136                 :      134570 :   mpfr_clear_flags ();
     137                 :      134570 :   bool inexact = func (m, m, rnd);
     138                 :      134570 :   bool ok = do_mpfr_ckconv (result, m, inexact, format);
     139                 :             : 
     140                 :      134570 :   return ok;
     141                 :      134570 : }
     142                 :             : 
     143                 :             : /* Try to evaluate:
     144                 :             : 
     145                 :             :       *RESULT_SIN = sin (*ARG);
     146                 :             :       *RESULT_COS = cos (*ARG);
     147                 :             : 
     148                 :             :    for format FORMAT.  Return true on success.  */
     149                 :             : 
     150                 :             : static bool
     151                 :         158 : do_mpfr_sincos (real_value *result_sin, real_value *result_cos,
     152                 :             :                 const real_value *arg, const real_format *format)
     153                 :             : {
     154                 :             :   /* To proceed, MPFR must exactly represent the target floating point
     155                 :             :      format, which only happens when the target base equals two.  */
     156                 :         158 :   if (format->b != 2 || !real_isfinite (arg))
     157                 :           0 :     return false;
     158                 :             : 
     159                 :         158 :   int prec = format->p;
     160                 :         158 :   mpfr_rnd_t rnd = format->round_towards_zero ? MPFR_RNDZ : MPFR_RNDN;
     161                 :         158 :   mpfr_t m, ms, mc;
     162                 :             : 
     163                 :         158 :   mpfr_inits2 (prec, m, ms, mc, NULL);
     164                 :         158 :   mpfr_from_real (m, arg, MPFR_RNDN);
     165                 :         158 :   mpfr_clear_flags ();
     166                 :         158 :   bool inexact = mpfr_sin_cos (ms, mc, m, rnd);
     167                 :         158 :   bool ok = (do_mpfr_ckconv (result_sin, ms, inexact, format)
     168                 :         158 :              && do_mpfr_ckconv (result_cos, mc, inexact, format));
     169                 :         158 :   mpfr_clears (m, ms, mc, NULL);
     170                 :             : 
     171                 :         158 :   return ok;
     172                 :             : }
     173                 :             : 
     174                 :             : /* Try to evaluate:
     175                 :             : 
     176                 :             :       *RESULT = f (*ARG0, *ARG1)
     177                 :             : 
     178                 :             :    in format FORMAT, given that FUNC is the MPFR implementation of f.
     179                 :             :    Return true on success.  */
     180                 :             : 
     181                 :             : static bool
     182                 :      162526 : do_mpfr_arg2 (real_value *result,
     183                 :             :               int (*func) (mpfr_ptr, mpfr_srcptr, mpfr_srcptr, mpfr_rnd_t),
     184                 :             :               const real_value *arg0, const real_value *arg1,
     185                 :             :               const real_format *format)
     186                 :             : {
     187                 :             :   /* To proceed, MPFR must exactly represent the target floating point
     188                 :             :      format, which only happens when the target base equals two.  */
     189                 :      162526 :   if (format->b != 2 || !real_isfinite (arg0) || !real_isfinite (arg1))
     190                 :       11684 :     return false;
     191                 :             : 
     192                 :      150842 :   int prec = format->p;
     193                 :      150842 :   mpfr_rnd_t rnd = format->round_towards_zero ? MPFR_RNDZ : MPFR_RNDN;
     194                 :      150842 :   mpfr_t m0, m1;
     195                 :             : 
     196                 :      150842 :   mpfr_inits2 (prec, m0, m1, NULL);
     197                 :      150842 :   mpfr_from_real (m0, arg0, MPFR_RNDN);
     198                 :      150842 :   mpfr_from_real (m1, arg1, MPFR_RNDN);
     199                 :      150842 :   mpfr_clear_flags ();
     200                 :      150842 :   bool inexact = func (m0, m0, m1, rnd);
     201                 :      150842 :   bool ok = do_mpfr_ckconv (result, m0, inexact, format);
     202                 :      150842 :   mpfr_clears (m0, m1, NULL);
     203                 :             : 
     204                 :      150842 :   return ok;
     205                 :             : }
     206                 :             : 
     207                 :             : /* Try to evaluate:
     208                 :             : 
     209                 :             :       *RESULT = f (ARG0, *ARG1)
     210                 :             : 
     211                 :             :    in format FORMAT, given that FUNC is the MPFR implementation of f.
     212                 :             :    Return true on success.  */
     213                 :             : 
     214                 :             : static bool
     215                 :        1743 : do_mpfr_arg2 (real_value *result,
     216                 :             :               int (*func) (mpfr_ptr, long, mpfr_srcptr, mpfr_rnd_t),
     217                 :             :               const wide_int_ref &arg0, const real_value *arg1,
     218                 :             :               const real_format *format)
     219                 :             : {
     220                 :        1743 :   if (format->b != 2 || !real_isfinite (arg1))
     221                 :           0 :     return false;
     222                 :             : 
     223                 :        1743 :   int prec = format->p;
     224                 :        1743 :   mpfr_rnd_t rnd = format->round_towards_zero ? MPFR_RNDZ : MPFR_RNDN;
     225                 :             : 
     226                 :        1743 :   auto_mpfr m (prec);
     227                 :        1743 :   mpfr_from_real (m, arg1, MPFR_RNDN);
     228                 :        1743 :   mpfr_clear_flags ();
     229                 :        1743 :   bool inexact = func (m, arg0.to_shwi (), m, rnd);
     230                 :        1743 :   bool ok = do_mpfr_ckconv (result, m, inexact, format);
     231                 :             : 
     232                 :        1743 :   return ok;
     233                 :        1743 : }
     234                 :             : 
     235                 :             : /* Try to evaluate:
     236                 :             : 
     237                 :             :       *RESULT = f (*ARG0, *ARG1, *ARG2)
     238                 :             : 
     239                 :             :    in format FORMAT, given that FUNC is the MPFR implementation of f.
     240                 :             :    Return true on success.  */
     241                 :             : 
     242                 :             : static bool
     243                 :        2532 : do_mpfr_arg3 (real_value *result,
     244                 :             :               int (*func) (mpfr_ptr, mpfr_srcptr, mpfr_srcptr,
     245                 :             :                            mpfr_srcptr, mpfr_rnd_t),
     246                 :             :               const real_value *arg0, const real_value *arg1,
     247                 :             :               const real_value *arg2, const real_format *format)
     248                 :             : {
     249                 :             :   /* To proceed, MPFR must exactly represent the target floating point
     250                 :             :      format, which only happens when the target base equals two.  */
     251                 :        2532 :   if (format->b != 2
     252                 :        2532 :       || !real_isfinite (arg0)
     253                 :        2532 :       || !real_isfinite (arg1)
     254                 :        5064 :       || !real_isfinite (arg2))
     255                 :           0 :     return false;
     256                 :             : 
     257                 :        2532 :   int prec = format->p;
     258                 :        2532 :   mpfr_rnd_t rnd = format->round_towards_zero ? MPFR_RNDZ : MPFR_RNDN;
     259                 :        2532 :   mpfr_t m0, m1, m2;
     260                 :             : 
     261                 :        2532 :   mpfr_inits2 (prec, m0, m1, m2, NULL);
     262                 :        2532 :   mpfr_from_real (m0, arg0, MPFR_RNDN);
     263                 :        2532 :   mpfr_from_real (m1, arg1, MPFR_RNDN);
     264                 :        2532 :   mpfr_from_real (m2, arg2, MPFR_RNDN);
     265                 :        2532 :   mpfr_clear_flags ();
     266                 :        2532 :   bool inexact = func (m0, m0, m1, m2, rnd);
     267                 :        2532 :   bool ok = do_mpfr_ckconv (result, m0, inexact, format);
     268                 :        2532 :   mpfr_clears (m0, m1, m2, NULL);
     269                 :             : 
     270                 :        2532 :   return ok;
     271                 :             : }
     272                 :             : 
     273                 :             : /* M is the result of trying to constant-fold an expression (starting
     274                 :             :    with clear MPFR flags) and INEXACT says whether the result in M is
     275                 :             :    exact or inexact.  Return true if M can be used as a constant-folded
     276                 :             :    result in which the real and imaginary parts have format FORMAT.
     277                 :             :    Store those parts in *RESULT_REAL and *RESULT_IMAG if so.  */
     278                 :             : 
     279                 :             : static bool
     280                 :       39561 : do_mpc_ckconv (real_value *result_real, real_value *result_imag,
     281                 :             :                mpc_srcptr m, bool inexact, const real_format *format)
     282                 :             : {
     283                 :             :   /* Proceed iff we get a normal number, i.e. not NaN or Inf and no
     284                 :             :      overflow/underflow occurred.  If -frounding-math, proceed iff the
     285                 :             :      result of calling FUNC was exact.  */
     286                 :       39561 :   if (!mpfr_number_p (mpc_realref (m))
     287                 :       33759 :       || !mpfr_number_p (mpc_imagref (m))
     288                 :       33759 :       || mpfr_overflow_p ()
     289                 :       33759 :       || mpfr_underflow_p ()
     290                 :       69516 :       || (flag_rounding_math && inexact))
     291                 :        9606 :     return false;
     292                 :             : 
     293                 :       29955 :   REAL_VALUE_TYPE tmp_real, tmp_imag;
     294                 :       29955 :   real_from_mpfr (&tmp_real, mpc_realref (m), format, MPFR_RNDN);
     295                 :       29955 :   real_from_mpfr (&tmp_imag, mpc_imagref (m), format, MPFR_RNDN);
     296                 :             : 
     297                 :             :   /* Proceed iff GCC's REAL_VALUE_TYPE can hold the MPFR values.
     298                 :             :      If the REAL_VALUE_TYPE is zero but the mpfr_t is not, then we
     299                 :             :      underflowed in the conversion.  */
     300                 :       29955 :   if (!real_isfinite (&tmp_real)
     301                 :       29955 :       || !real_isfinite (&tmp_imag)
     302                 :       29955 :       || (tmp_real.cl == rvc_zero) != (mpfr_zero_p (mpc_realref (m)) != 0)
     303                 :       59910 :       || (tmp_imag.cl == rvc_zero) != (mpfr_zero_p (mpc_imagref (m)) != 0))
     304                 :           0 :     return false;
     305                 :             : 
     306                 :       29955 :   real_convert (result_real, format, &tmp_real);
     307                 :       29955 :   real_convert (result_imag, format, &tmp_imag);
     308                 :             : 
     309                 :       29955 :   return (real_identical (result_real, &tmp_real)
     310                 :       29955 :           && real_identical (result_imag, &tmp_imag));
     311                 :             : }
     312                 :             : 
     313                 :             : /* Try to evaluate:
     314                 :             : 
     315                 :             :       RESULT = f (ARG)
     316                 :             : 
     317                 :             :    in format FORMAT, given that FUNC is the mpc implementation of f.
     318                 :             :    Return true on success.  Both RESULT and ARG are represented as
     319                 :             :    real and imaginary pairs.  */
     320                 :             : 
     321                 :             : static bool
     322                 :       13796 : do_mpc_arg1 (real_value *result_real, real_value *result_imag,
     323                 :             :              int (*func) (mpc_ptr, mpc_srcptr, mpc_rnd_t),
     324                 :             :              const real_value *arg_real, const real_value *arg_imag,
     325                 :             :              const real_format *format)
     326                 :             : {
     327                 :             :   /* To proceed, MPFR must exactly represent the target floating point
     328                 :             :      format, which only happens when the target base equals two.  */
     329                 :       13796 :   if (format->b != 2
     330                 :       13796 :       || !real_isfinite (arg_real)
     331                 :       25162 :       || !real_isfinite (arg_imag))
     332                 :        2430 :     return false;
     333                 :             : 
     334                 :       11366 :   int prec = format->p;
     335                 :       11366 :   mpc_rnd_t crnd = format->round_towards_zero ? MPC_RNDZZ : MPC_RNDNN;
     336                 :       11366 :   mpc_t m;
     337                 :             : 
     338                 :       11366 :   mpc_init2 (m, prec);
     339                 :       11366 :   mpfr_from_real (mpc_realref (m), arg_real, MPFR_RNDN);
     340                 :       11366 :   mpfr_from_real (mpc_imagref (m), arg_imag, MPFR_RNDN);
     341                 :       11366 :   mpfr_clear_flags ();
     342                 :       11366 :   bool inexact = func (m, m, crnd);
     343                 :       11366 :   bool ok = do_mpc_ckconv (result_real, result_imag, m, inexact, format);
     344                 :       11366 :   mpc_clear (m);
     345                 :             : 
     346                 :       11366 :   return ok;
     347                 :             : }
     348                 :             : 
     349                 :             : /* Try to evaluate:
     350                 :             : 
     351                 :             :       RESULT = f (ARG0, ARG1)
     352                 :             : 
     353                 :             :    in format FORMAT, given that FUNC is the mpc implementation of f.
     354                 :             :    Return true on success.  RESULT, ARG0 and ARG1 are represented as
     355                 :             :    real and imaginary pairs.  */
     356                 :             : 
     357                 :             : static bool
     358                 :       33055 : do_mpc_arg2 (real_value *result_real, real_value *result_imag,
     359                 :             :              int (*func)(mpc_ptr, mpc_srcptr, mpc_srcptr, mpc_rnd_t),
     360                 :             :              const real_value *arg0_real, const real_value *arg0_imag,
     361                 :             :              const real_value *arg1_real, const real_value *arg1_imag,
     362                 :             :              const real_format *format)
     363                 :             : {
     364                 :       33055 :   if (!real_isfinite (arg0_real)
     365                 :       30625 :       || !real_isfinite (arg0_imag)
     366                 :       30625 :       || !real_isfinite (arg1_real)
     367                 :       61250 :       || !real_isfinite (arg1_imag))
     368                 :        4860 :     return false;
     369                 :             : 
     370                 :       28195 :   int prec = format->p;
     371                 :       28195 :   mpc_rnd_t crnd = format->round_towards_zero ? MPC_RNDZZ : MPC_RNDNN;
     372                 :       28195 :   mpc_t m0, m1;
     373                 :             : 
     374                 :       28195 :   mpc_init2 (m0, prec);
     375                 :       28195 :   mpc_init2 (m1, prec);
     376                 :       28195 :   mpfr_from_real (mpc_realref (m0), arg0_real, MPFR_RNDN);
     377                 :       28195 :   mpfr_from_real (mpc_imagref (m0), arg0_imag, MPFR_RNDN);
     378                 :       28195 :   mpfr_from_real (mpc_realref (m1), arg1_real, MPFR_RNDN);
     379                 :       28195 :   mpfr_from_real (mpc_imagref (m1), arg1_imag, MPFR_RNDN);
     380                 :       28195 :   mpfr_clear_flags ();
     381                 :       28195 :   bool inexact = func (m0, m0, m1, crnd);
     382                 :       28195 :   bool ok = do_mpc_ckconv (result_real, result_imag, m0, inexact, format);
     383                 :       28195 :   mpc_clear (m0);
     384                 :       28195 :   mpc_clear (m1);
     385                 :             : 
     386                 :       28195 :   return ok;
     387                 :             : }
     388                 :             : 
     389                 :             : /* Try to evaluate:
     390                 :             : 
     391                 :             :       *RESULT = logb (*ARG)
     392                 :             : 
     393                 :             :    in format FORMAT.  Return true on success.  */
     394                 :             : 
     395                 :             : static bool
     396                 :        4596 : fold_const_logb (real_value *result, const real_value *arg,
     397                 :             :                  const real_format *format)
     398                 :             : {
     399                 :        4596 :   switch (arg->cl)
     400                 :             :     {
     401                 :         106 :     case rvc_nan:
     402                 :             :       /* If arg is +-NaN, then return it.  */
     403                 :         106 :       *result = *arg;
     404                 :         106 :       return true;
     405                 :             : 
     406                 :         116 :     case rvc_inf:
     407                 :             :       /* If arg is +-Inf, then return +Inf.  */
     408                 :         116 :       *result = *arg;
     409                 :         116 :       result->sign = 0;
     410                 :         116 :       return true;
     411                 :             : 
     412                 :             :     case rvc_zero:
     413                 :             :       /* Zero may set errno and/or raise an exception.  */
     414                 :             :       return false;
     415                 :             : 
     416                 :        1666 :     case rvc_normal:
     417                 :             :       /* For normal numbers, proceed iff radix == 2.  In GCC,
     418                 :             :          normalized significands are in the range [0.5, 1.0).  We
     419                 :             :          want the exponent as if they were [1.0, 2.0) so get the
     420                 :             :          exponent and subtract 1.  */
     421                 :        1666 :       if (format->b == 2)
     422                 :             :         {
     423                 :        1666 :           real_from_integer (result, format, REAL_EXP (arg) - 1, SIGNED);
     424                 :        1666 :           return true;
     425                 :             :         }
     426                 :             :       return false;
     427                 :             :     }
     428                 :             : }
     429                 :             : 
     430                 :             : /* Try to evaluate:
     431                 :             : 
     432                 :             :       *RESULT = significand (*ARG)
     433                 :             : 
     434                 :             :    in format FORMAT.  Return true on success.  */
     435                 :             : 
     436                 :             : static bool
     437                 :         960 : fold_const_significand (real_value *result, const real_value *arg,
     438                 :             :                         const real_format *format)
     439                 :             : {
     440                 :           0 :   switch (arg->cl)
     441                 :             :     {
     442                 :         288 :     case rvc_zero:
     443                 :         288 :     case rvc_nan:
     444                 :         288 :     case rvc_inf:
     445                 :             :       /* If arg is +-0, +-Inf or +-NaN, then return it.  */
     446                 :         288 :       *result = *arg;
     447                 :         288 :       return true;
     448                 :             : 
     449                 :         672 :     case rvc_normal:
     450                 :             :       /* For normal numbers, proceed iff radix == 2.  */
     451                 :         672 :       if (format->b == 2)
     452                 :             :         {
     453                 :         672 :           *result = *arg;
     454                 :             :           /* In GCC, normalized significands are in the range [0.5, 1.0).
     455                 :             :              We want them to be [1.0, 2.0) so set the exponent to 1.  */
     456                 :         672 :           SET_REAL_EXP (result, 1);
     457                 :         672 :           return true;
     458                 :             :         }
     459                 :             :       return false;
     460                 :             :     }
     461                 :             : }
     462                 :             : 
     463                 :             : /* Try to evaluate:
     464                 :             : 
     465                 :             :       *RESULT = f (*ARG)
     466                 :             : 
     467                 :             :    where FORMAT is the format of *ARG and PRECISION is the number of
     468                 :             :    significant bits in the result.  Return true on success.  */
     469                 :             : 
     470                 :             : static bool
     471                 :        1510 : fold_const_conversion (wide_int *result,
     472                 :             :                        void (*fn) (real_value *, format_helper,
     473                 :             :                                    const real_value *),
     474                 :             :                        const real_value *arg, unsigned int precision,
     475                 :             :                        const real_format *format)
     476                 :             : {
     477                 :        1510 :   if (!real_isfinite (arg))
     478                 :             :     return false;
     479                 :             : 
     480                 :        1510 :   real_value rounded;
     481                 :        1510 :   fn (&rounded, format, arg);
     482                 :             : 
     483                 :        1510 :   bool fail = false;
     484                 :        1510 :   *result = real_to_integer (&rounded, &fail, precision);
     485                 :        1510 :   return !fail;
     486                 :             : }
     487                 :             : 
     488                 :             : /* Try to evaluate:
     489                 :             : 
     490                 :             :       *RESULT = pow (*ARG0, *ARG1)
     491                 :             : 
     492                 :             :    in format FORMAT.  Return true on success.  */
     493                 :             : 
     494                 :             : static bool
     495                 :      145317 : fold_const_pow (real_value *result, const real_value *arg0,
     496                 :             :                 const real_value *arg1, const real_format *format)
     497                 :             : {
     498                 :      145317 :   if (do_mpfr_arg2 (result, mpfr_pow, arg0, arg1, format))
     499                 :             :     return true;
     500                 :             : 
     501                 :             :   /* Check for an integer exponent.  */
     502                 :       10749 :   REAL_VALUE_TYPE cint1;
     503                 :       10749 :   HOST_WIDE_INT n1 = real_to_integer (arg1);
     504                 :       10749 :   real_from_integer (&cint1, VOIDmode, n1, SIGNED);
     505                 :             :   /* Attempt to evaluate pow at compile-time, unless this should
     506                 :             :      raise an exception.  */
     507                 :       10749 :   if (real_identical (arg1, &cint1)
     508                 :       10749 :       && (n1 > 0
     509                 :         810 :           || (!flag_trapping_math && !flag_errno_math)
     510                 :         810 :           || !real_equal (arg0, &dconst0)))
     511                 :             :     {
     512                 :        1620 :       bool inexact = real_powi (result, format, arg0, n1);
     513                 :             :       /* Avoid the folding if flag_signaling_nans is on.  */
     514                 :        1620 :       if (flag_unsafe_math_optimizations
     515                 :        1620 :           || (!inexact
     516                 :           0 :               && !(flag_signaling_nans
     517                 :           0 :                    && REAL_VALUE_ISSIGNALING_NAN (*arg0))))
     518                 :           0 :         return true;
     519                 :             :     }
     520                 :             : 
     521                 :             :   return false;
     522                 :             : }
     523                 :             : 
     524                 :             : /* Try to evaluate:
     525                 :             : 
     526                 :             :       *RESULT = nextafter (*ARG0, *ARG1)
     527                 :             : 
     528                 :             :    or
     529                 :             : 
     530                 :             :       *RESULT = nexttoward (*ARG0, *ARG1)
     531                 :             : 
     532                 :             :    in format FORMAT.  Return true on success.  */
     533                 :             : 
     534                 :             : static bool
     535                 :       13641 : fold_const_nextafter (real_value *result, const real_value *arg0,
     536                 :             :                       const real_value *arg1, const real_format *format)
     537                 :             : {
     538                 :       13641 :   if (REAL_VALUE_ISSIGNALING_NAN (*arg0)
     539                 :       13641 :       || REAL_VALUE_ISSIGNALING_NAN (*arg1))
     540                 :           0 :     return false;
     541                 :             : 
     542                 :             :   /* Don't handle composite modes, nor decimal, nor modes without
     543                 :             :      inf or denorm at least for now.  */
     544                 :       13641 :   if (format->pnan < format->p
     545                 :       13641 :       || format->b == 10
     546                 :       13641 :       || !format->has_inf
     547                 :       13641 :       || !format->has_denorm)
     548                 :             :     return false;
     549                 :             : 
     550                 :       21081 :   if (real_nextafter (result, format, arg0, arg1)
     551                 :             :       /* If raising underflow or overflow and setting errno to ERANGE,
     552                 :             :          fail if we care about those side-effects.  */
     553                 :       13641 :       && (flag_trapping_math || flag_errno_math))
     554                 :        7440 :     return false;
     555                 :             :   /* Similarly for nextafter (0, 1) raising underflow.  */
     556                 :        6201 :   else if (flag_trapping_math
     557                 :        5694 :            && arg0->cl == rvc_zero
     558                 :        4966 :            && result->cl != rvc_zero)
     559                 :             :     return false;
     560                 :             : 
     561                 :        1415 :   real_convert (result, format, result);
     562                 :             : 
     563                 :        1415 :   return true;
     564                 :             : }
     565                 :             : 
     566                 :             : /* Try to evaluate:
     567                 :             : 
     568                 :             :       *RESULT = ldexp (*ARG0, ARG1)
     569                 :             : 
     570                 :             :    in format FORMAT.  Return true on success.  */
     571                 :             : 
     572                 :             : static bool
     573                 :       26171 : fold_const_builtin_load_exponent (real_value *result, const real_value *arg0,
     574                 :             :                                   const wide_int_ref &arg1,
     575                 :             :                                   const real_format *format)
     576                 :             : {
     577                 :             :   /* Bound the maximum adjustment to twice the range of the
     578                 :             :      mode's valid exponents.  Use abs to ensure the range is
     579                 :             :      positive as a sanity check.  */
     580                 :       26171 :   int max_exp_adj = 2 * labs (format->emax - format->emin);
     581                 :             : 
     582                 :             :   /* The requested adjustment must be inside this range.  This
     583                 :             :      is a preliminary cap to avoid things like overflow, we
     584                 :             :      may still fail to compute the result for other reasons.  */
     585                 :       44204 :   if (wi::les_p (arg1, -max_exp_adj) || wi::ges_p (arg1, max_exp_adj))
     586                 :       16144 :     return false;
     587                 :             : 
     588                 :             :   /* Don't perform operation if we honor signaling NaNs and
     589                 :             :      operand is a signaling NaN.  */
     590                 :       10027 :   if (!flag_unsafe_math_optimizations
     591                 :       10024 :       && flag_signaling_nans
     592                 :       10147 :       && REAL_VALUE_ISSIGNALING_NAN (*arg0))
     593                 :             :     return false;
     594                 :             : 
     595                 :       10027 :   REAL_VALUE_TYPE initial_result;
     596                 :       10027 :   real_ldexp (&initial_result, arg0, arg1.to_shwi ());
     597                 :             : 
     598                 :             :   /* Ensure we didn't overflow.  */
     599                 :       10027 :   if (real_isinf (&initial_result))
     600                 :             :     return false;
     601                 :             : 
     602                 :             :   /* Only proceed if the target mode can hold the
     603                 :             :      resulting value.  */
     604                 :       10007 :   *result = real_value_truncate (format, initial_result);
     605                 :       10007 :   return real_equal (&initial_result, result);
     606                 :             : }
     607                 :             : 
     608                 :             : /* Fold a call to __builtin_nan or __builtin_nans with argument ARG and
     609                 :             :    return type TYPE.  QUIET is true if a quiet rather than signalling
     610                 :             :    NaN is required.  */
     611                 :             : 
     612                 :             : static tree
     613                 :      328004 : fold_const_builtin_nan (tree type, tree arg, bool quiet)
     614                 :             : {
     615                 :      328004 :   REAL_VALUE_TYPE real;
     616                 :      328004 :   const char *str = c_getstr (arg);
     617                 :      328004 :   if (str && real_nan (&real, str, quiet, TYPE_MODE (type)))
     618                 :      327540 :     return build_real (type, real);
     619                 :             :   return NULL_TREE;
     620                 :             : }
     621                 :             : 
     622                 :             : /* Fold a call to IFN_REDUC_<CODE> (ARG), returning a value of type TYPE.  */
     623                 :             : 
     624                 :             : static tree
     625                 :        1916 : fold_const_reduction (tree type, tree arg, tree_code code)
     626                 :             : {
     627                 :        1916 :   unsigned HOST_WIDE_INT nelts;
     628                 :        1916 :   if (TREE_CODE (arg) != VECTOR_CST
     629                 :        1916 :       || !VECTOR_CST_NELTS (arg).is_constant (&nelts))
     630                 :           0 :     return NULL_TREE;
     631                 :             : 
     632                 :        1916 :   tree res = VECTOR_CST_ELT (arg, 0);
     633                 :       24944 :   for (unsigned HOST_WIDE_INT i = 1; i < nelts; i++)
     634                 :             :     {
     635                 :       23028 :       res = const_binop (code, type, res, VECTOR_CST_ELT (arg, i));
     636                 :       23028 :       if (res == NULL_TREE || !CONSTANT_CLASS_P (res))
     637                 :             :         return NULL_TREE;
     638                 :             :     }
     639                 :             :   return res;
     640                 :             : }
     641                 :             : 
     642                 :             : /* Fold a call to IFN_VEC_CONVERT (ARG) returning TYPE.  */
     643                 :             : 
     644                 :             : static tree
     645                 :         138 : fold_const_vec_convert (tree ret_type, tree arg)
     646                 :             : {
     647                 :         138 :   enum tree_code code = NOP_EXPR;
     648                 :         138 :   tree arg_type = TREE_TYPE (arg);
     649                 :         138 :   if (TREE_CODE (arg) != VECTOR_CST)
     650                 :             :     return NULL_TREE;
     651                 :             : 
     652                 :         138 :   gcc_checking_assert (VECTOR_TYPE_P (ret_type) && VECTOR_TYPE_P (arg_type));
     653                 :             : 
     654                 :         276 :   if (INTEGRAL_TYPE_P (TREE_TYPE (ret_type))
     655                 :         211 :       && SCALAR_FLOAT_TYPE_P (TREE_TYPE (arg_type)))
     656                 :             :     code = FIX_TRUNC_EXPR;
     657                 :         170 :   else if (INTEGRAL_TYPE_P (TREE_TYPE (arg_type))
     658                 :         170 :            && SCALAR_FLOAT_TYPE_P (TREE_TYPE (ret_type)))
     659                 :             :     code = FLOAT_EXPR;
     660                 :             : 
     661                 :             :   /* We can't handle steps directly when extending, since the
     662                 :             :      values need to wrap at the original precision first.  */
     663                 :         138 :   bool step_ok_p
     664                 :         276 :     = (INTEGRAL_TYPE_P (TREE_TYPE (ret_type))
     665                 :          73 :        && INTEGRAL_TYPE_P (TREE_TYPE (arg_type))
     666                 :         158 :        && (TYPE_PRECISION (TREE_TYPE (ret_type))
     667                 :          20 :            <= TYPE_PRECISION (TREE_TYPE (arg_type))));
     668                 :         138 :   tree_vector_builder elts;
     669                 :         138 :   if (!elts.new_unary_operation (ret_type, arg, step_ok_p))
     670                 :             :     return NULL_TREE;
     671                 :             : 
     672                 :         138 :   unsigned int count = elts.encoded_nelts ();
     673                 :         654 :   for (unsigned int i = 0; i < count; ++i)
     674                 :             :     {
     675                 :         522 :       tree elt = fold_unary (code, TREE_TYPE (ret_type),
     676                 :             :                              VECTOR_CST_ELT (arg, i));
     677                 :         522 :       if (elt == NULL_TREE || !CONSTANT_CLASS_P (elt))
     678                 :           6 :         return NULL_TREE;
     679                 :         516 :       elts.quick_push (elt);
     680                 :             :     }
     681                 :             : 
     682                 :         132 :   return elts.build ();
     683                 :         138 : }
     684                 :             : 
     685                 :             : /* Try to evaluate:
     686                 :             : 
     687                 :             :       IFN_WHILE_ULT (ARG0, ARG1, (TYPE) { ... })
     688                 :             : 
     689                 :             :    Return the value on success and null on failure.  */
     690                 :             : 
     691                 :             : static tree
     692                 :           0 : fold_while_ult (tree type, poly_uint64 arg0, poly_uint64 arg1)
     693                 :             : {
     694                 :           0 :   if (known_ge (arg0, arg1))
     695                 :           0 :     return build_zero_cst (type);
     696                 :             : 
     697                 :           0 :   if (maybe_ge (arg0, arg1))
     698                 :             :     return NULL_TREE;
     699                 :             : 
     700                 :           0 :   poly_uint64 diff = arg1 - arg0;
     701                 :           0 :   poly_uint64 nelts = TYPE_VECTOR_SUBPARTS (type);
     702                 :           0 :   if (known_ge (diff, nelts))
     703                 :           0 :     return build_all_ones_cst (type);
     704                 :             : 
     705                 :           0 :   unsigned HOST_WIDE_INT const_diff;
     706                 :           0 :   if (known_le (diff, nelts) && diff.is_constant (&const_diff))
     707                 :             :     {
     708                 :           0 :       tree minus_one = build_minus_one_cst (TREE_TYPE (type));
     709                 :           0 :       tree zero = build_zero_cst (TREE_TYPE (type));
     710                 :           0 :       return build_vector_a_then_b (type, const_diff, minus_one, zero);
     711                 :             :     }
     712                 :             :   return NULL_TREE;
     713                 :             : }
     714                 :             : 
     715                 :             : /* Try to evaluate:
     716                 :             : 
     717                 :             :       *RESULT = FN (*ARG)
     718                 :             : 
     719                 :             :    in format FORMAT.  Return true on success.  */
     720                 :             : 
     721                 :             : static bool
     722                 :      190667 : fold_const_call_ss (real_value *result, combined_fn fn,
     723                 :             :                     const real_value *arg, const real_format *format)
     724                 :             : {
     725                 :      190667 :   switch (fn)
     726                 :             :     {
     727                 :       22682 :     CASE_CFN_SQRT:
     728                 :       22682 :     CASE_CFN_SQRT_FN:
     729                 :       22682 :       return (real_compare (GE_EXPR, arg, &dconst0)
     730                 :       22682 :               && do_mpfr_arg1 (result, mpfr_sqrt, arg, format));
     731                 :             : 
     732                 :         506 :     CASE_CFN_CBRT:
     733                 :         506 :     CASE_CFN_CBRT_FN:
     734                 :         506 :       return do_mpfr_arg1 (result, mpfr_cbrt, arg, format);
     735                 :             : 
     736                 :        2039 :     CASE_CFN_ASIN:
     737                 :        2039 :     CASE_CFN_ASIN_FN:
     738                 :        2039 :       return (real_compare (GE_EXPR, arg, &dconstm1)
     739                 :        1229 :               && real_compare (LE_EXPR, arg, &dconst1)
     740                 :        2450 :               && do_mpfr_arg1 (result, mpfr_asin, arg, format));
     741                 :             : 
     742                 :        2087 :     CASE_CFN_ACOS:
     743                 :        2087 :     CASE_CFN_ACOS_FN:
     744                 :        2087 :       return (real_compare (GE_EXPR, arg, &dconstm1)
     745                 :        1277 :               && real_compare (LE_EXPR, arg, &dconst1)
     746                 :        2554 :               && do_mpfr_arg1 (result, mpfr_acos, arg, format));
     747                 :             : 
     748                 :         549 :     CASE_CFN_ATAN:
     749                 :         549 :     CASE_CFN_ATAN_FN:
     750                 :         549 :       return do_mpfr_arg1 (result, mpfr_atan, arg, format);
     751                 :             : 
     752                 :         310 :     CASE_CFN_ASINH:
     753                 :         310 :     CASE_CFN_ASINH_FN:
     754                 :         310 :       return do_mpfr_arg1 (result, mpfr_asinh, arg, format);
     755                 :             : 
     756                 :        1528 :     CASE_CFN_ACOSH:
     757                 :        1528 :     CASE_CFN_ACOSH_FN:
     758                 :        1528 :       return (real_compare (GE_EXPR, arg, &dconst1)
     759                 :        1528 :               && do_mpfr_arg1 (result, mpfr_acosh, arg, format));
     760                 :             : 
     761                 :        1988 :     CASE_CFN_ATANH:
     762                 :        1988 :     CASE_CFN_ATANH_FN:
     763                 :        1988 :       return (real_compare (GE_EXPR, arg, &dconstm1)
     764                 :        1988 :               && real_compare (LE_EXPR, arg, &dconst1)
     765                 :        3976 :               && do_mpfr_arg1 (result, mpfr_atanh, arg, format));
     766                 :             : 
     767                 :         945 :     CASE_CFN_SIN:
     768                 :         945 :     CASE_CFN_SIN_FN:
     769                 :         945 :       return do_mpfr_arg1 (result, mpfr_sin, arg, format);
     770                 :             : 
     771                 :         798 :     CASE_CFN_COS:
     772                 :         798 :     CASE_CFN_COS_FN:
     773                 :         798 :       return do_mpfr_arg1 (result, mpfr_cos, arg, format);
     774                 :             : 
     775                 :         545 :     CASE_CFN_TAN:
     776                 :         545 :     CASE_CFN_TAN_FN:
     777                 :         545 :       return do_mpfr_arg1 (result, mpfr_tan, arg, format);
     778                 :             : 
     779                 :         370 :     CASE_CFN_SINH:
     780                 :         370 :     CASE_CFN_SINH_FN:
     781                 :         370 :       return do_mpfr_arg1 (result, mpfr_sinh, arg, format);
     782                 :             : 
     783                 :         370 :     CASE_CFN_COSH:
     784                 :         370 :     CASE_CFN_COSH_FN:
     785                 :         370 :       return do_mpfr_arg1 (result, mpfr_cosh, arg, format);
     786                 :             : 
     787                 :         345 :     CASE_CFN_TANH:
     788                 :         345 :     CASE_CFN_TANH_FN:
     789                 :         345 :       return do_mpfr_arg1 (result, mpfr_tanh, arg, format);
     790                 :             : 
     791                 :         322 :     CASE_CFN_ERF:
     792                 :         322 :     CASE_CFN_ERF_FN:
     793                 :         322 :       return do_mpfr_arg1 (result, mpfr_erf, arg, format);
     794                 :             : 
     795                 :         365 :     CASE_CFN_ERFC:
     796                 :         365 :     CASE_CFN_ERFC_FN:
     797                 :         365 :       return do_mpfr_arg1 (result, mpfr_erfc, arg, format);
     798                 :             : 
     799                 :        5079 :     CASE_CFN_TGAMMA:
     800                 :        5079 :     CASE_CFN_TGAMMA_FN:
     801                 :        5079 :       return do_mpfr_arg1 (result, mpfr_gamma, arg, format);
     802                 :             : 
     803                 :         793 :     CASE_CFN_EXP:
     804                 :         793 :     CASE_CFN_EXP_FN:
     805                 :         793 :       return do_mpfr_arg1 (result, mpfr_exp, arg, format);
     806                 :             : 
     807                 :       11100 :     CASE_CFN_EXP2:
     808                 :       11100 :     CASE_CFN_EXP2_FN:
     809                 :       11100 :       return do_mpfr_arg1 (result, mpfr_exp2, arg, format);
     810                 :             : 
     811                 :         698 :     CASE_CFN_EXP10:
     812                 :         698 :     CASE_CFN_POW10:
     813                 :         698 :       return do_mpfr_arg1 (result, mpfr_exp10, arg, format);
     814                 :             : 
     815                 :         319 :     CASE_CFN_EXPM1:
     816                 :         319 :     CASE_CFN_EXPM1_FN:
     817                 :         319 :       return do_mpfr_arg1 (result, mpfr_expm1, arg, format);
     818                 :             : 
     819                 :       89737 :     CASE_CFN_LOG:
     820                 :       89737 :     CASE_CFN_LOG_FN:
     821                 :       89737 :       return (real_compare (GT_EXPR, arg, &dconst0)
     822                 :       89737 :               && do_mpfr_arg1 (result, mpfr_log, arg, format));
     823                 :             : 
     824                 :        3278 :     CASE_CFN_LOG2:
     825                 :        3278 :     CASE_CFN_LOG2_FN:
     826                 :        3278 :       return (real_compare (GT_EXPR, arg, &dconst0)
     827                 :        3278 :               && do_mpfr_arg1 (result, mpfr_log2, arg, format));
     828                 :             : 
     829                 :        3276 :     CASE_CFN_LOG10:
     830                 :        3276 :     CASE_CFN_LOG10_FN:
     831                 :        3276 :       return (real_compare (GT_EXPR, arg, &dconst0)
     832                 :        3276 :               && do_mpfr_arg1 (result, mpfr_log10, arg, format));
     833                 :             : 
     834                 :        1989 :     CASE_CFN_LOG1P:
     835                 :        1989 :     CASE_CFN_LOG1P_FN:
     836                 :        1989 :       return (real_compare (GT_EXPR, arg, &dconstm1)
     837                 :        1989 :               && do_mpfr_arg1 (result, mpfr_log1p, arg, format));
     838                 :             : 
     839                 :         221 :     CASE_CFN_J0:
     840                 :         221 :       return do_mpfr_arg1 (result, mpfr_j0, arg, format);
     841                 :             : 
     842                 :         221 :     CASE_CFN_J1:
     843                 :         221 :       return do_mpfr_arg1 (result, mpfr_j1, arg, format);
     844                 :             : 
     845                 :        2555 :     CASE_CFN_Y0:
     846                 :        2555 :       return (real_compare (GT_EXPR, arg, &dconst0)
     847                 :        2555 :               && do_mpfr_arg1 (result, mpfr_y0, arg, format));
     848                 :             : 
     849                 :        2555 :     CASE_CFN_Y1:
     850                 :        2555 :       return (real_compare (GT_EXPR, arg, &dconst0)
     851                 :        2555 :               && do_mpfr_arg1 (result, mpfr_y1, arg, format));
     852                 :             : 
     853                 :         356 :     CASE_CFN_FLOOR:
     854                 :         356 :     CASE_CFN_FLOOR_FN:
     855                 :         356 :       if (!REAL_VALUE_ISSIGNALING_NAN (*arg))
     856                 :             :         {
     857                 :         356 :           real_floor (result, format, arg);
     858                 :         356 :           return true;
     859                 :             :         }
     860                 :             :       return false;
     861                 :             : 
     862                 :         317 :     CASE_CFN_CEIL:
     863                 :         317 :     CASE_CFN_CEIL_FN:
     864                 :         317 :       if (!REAL_VALUE_ISSIGNALING_NAN (*arg))
     865                 :             :         {
     866                 :         317 :           real_ceil (result, format, arg);
     867                 :         317 :           return true;
     868                 :             :         }
     869                 :             :       return false;
     870                 :             : 
     871                 :         349 :     CASE_CFN_TRUNC:
     872                 :         349 :     CASE_CFN_TRUNC_FN:
     873                 :         349 :       if (!REAL_VALUE_ISSIGNALING_NAN (*arg))
     874                 :             :         {
     875                 :         349 :           real_trunc (result, format, arg);
     876                 :         349 :           return true;
     877                 :             :         }
     878                 :             :       return false;
     879                 :             : 
     880                 :         255 :     CASE_CFN_ROUND:
     881                 :         255 :     CASE_CFN_ROUND_FN:
     882                 :         255 :       if (!REAL_VALUE_ISSIGNALING_NAN (*arg))
     883                 :             :         {
     884                 :         255 :           real_round (result, format, arg);
     885                 :         255 :           return true;
     886                 :             :         }
     887                 :             :       return false;
     888                 :             : 
     889                 :         189 :     CASE_CFN_ROUNDEVEN:
     890                 :         189 :     CASE_CFN_ROUNDEVEN_FN:
     891                 :         189 :       if (!REAL_VALUE_ISSIGNALING_NAN (*arg))
     892                 :             :         {
     893                 :         189 :           real_roundeven (result, format, arg);
     894                 :         189 :           return true;
     895                 :             :         }
     896                 :             :       return false;
     897                 :             : 
     898                 :        4596 :     CASE_CFN_LOGB:
     899                 :        4596 :     CASE_CFN_LOGB_FN:
     900                 :        4596 :       return fold_const_logb (result, arg, format);
     901                 :             : 
     902                 :         960 :     CASE_CFN_SIGNIFICAND:
     903                 :         960 :       return fold_const_significand (result, arg, format);
     904                 :             : 
     905                 :             :     default:
     906                 :             :       return false;
     907                 :             :     }
     908                 :             : }
     909                 :             : 
     910                 :             : /* Try to evaluate:
     911                 :             : 
     912                 :             :       *RESULT = FN (*ARG)
     913                 :             : 
     914                 :             :    where FORMAT is the format of ARG and PRECISION is the number of
     915                 :             :    significant bits in the result.  Return true on success.  */
     916                 :             : 
     917                 :             : static bool
     918                 :       17821 : fold_const_call_ss (wide_int *result, combined_fn fn,
     919                 :             :                     const real_value *arg, unsigned int precision,
     920                 :             :                     const real_format *format)
     921                 :             : {
     922                 :       17821 :   switch (fn)
     923                 :             :     {
     924                 :        1789 :     CASE_CFN_SIGNBIT:
     925                 :        1789 :       if (real_isneg (arg))
     926                 :         969 :         *result = wi::one (precision);
     927                 :             :       else
     928                 :         820 :         *result = wi::zero (precision);
     929                 :             :       return true;
     930                 :             : 
     931                 :        6751 :     CASE_CFN_ILOGB:
     932                 :        6751 :     CASE_CFN_ILOGB_FN:
     933                 :             :       /* For ilogb we don't know FP_ILOGB0, so only handle normal values.
     934                 :             :          Proceed iff radix == 2.  In GCC, normalized significands are in
     935                 :             :          the range [0.5, 1.0).  We want the exponent as if they were
     936                 :             :          [1.0, 2.0) so get the exponent and subtract 1.  */
     937                 :        6751 :       if (arg->cl == rvc_normal && format->b == 2)
     938                 :             :         {
     939                 :         830 :           *result = wi::shwi (REAL_EXP (arg) - 1, precision);
     940                 :         830 :           return true;
     941                 :             :         }
     942                 :             :       return false;
     943                 :             : 
     944                 :         378 :     CASE_CFN_ICEIL:
     945                 :         378 :     CASE_CFN_LCEIL:
     946                 :         378 :     CASE_CFN_LLCEIL:
     947                 :         378 :       return fold_const_conversion (result, real_ceil, arg,
     948                 :         378 :                                     precision, format);
     949                 :             : 
     950                 :         378 :     CASE_CFN_LFLOOR:
     951                 :         378 :     CASE_CFN_IFLOOR:
     952                 :         378 :     CASE_CFN_LLFLOOR:
     953                 :         378 :       return fold_const_conversion (result, real_floor, arg,
     954                 :         378 :                                     precision, format);
     955                 :             : 
     956                 :         754 :     CASE_CFN_IROUND:
     957                 :         754 :     CASE_CFN_LROUND:
     958                 :         754 :     CASE_CFN_LROUND_FN:
     959                 :         754 :     CASE_CFN_LLROUND:
     960                 :         754 :     CASE_CFN_LLROUND_FN:
     961                 :         754 :       return fold_const_conversion (result, real_round, arg,
     962                 :         754 :                                     precision, format);
     963                 :             : 
     964                 :             :     CASE_CFN_IRINT:
     965                 :             :     CASE_CFN_LRINT:
     966                 :             :     CASE_CFN_LRINT_FN:
     967                 :             :     CASE_CFN_LLRINT:
     968                 :             :     CASE_CFN_LLRINT_FN:
     969                 :             :       /* Not yet folded to a constant.  */
     970                 :             :       return false;
     971                 :             : 
     972                 :        1457 :     CASE_CFN_FINITE:
     973                 :        1457 :     case CFN_BUILT_IN_FINITED32:
     974                 :        1457 :     case CFN_BUILT_IN_FINITED64:
     975                 :        1457 :     case CFN_BUILT_IN_FINITED128:
     976                 :        1457 :     case CFN_BUILT_IN_ISFINITE:
     977                 :        1487 :       *result = wi::shwi (real_isfinite (arg) ? 1 : 0, precision);
     978                 :        1457 :       return true;
     979                 :             : 
     980                 :        3813 :     case CFN_BUILT_IN_ISSIGNALING:
     981                 :        7455 :       *result = wi::shwi (real_issignaling_nan (arg) ? 1 : 0, precision);
     982                 :        3813 :       return true;
     983                 :             : 
     984                 :         254 :     CASE_CFN_ISINF:
     985                 :         254 :     case CFN_BUILT_IN_ISINFD32:
     986                 :         254 :     case CFN_BUILT_IN_ISINFD64:
     987                 :         254 :     case CFN_BUILT_IN_ISINFD128:
     988                 :         254 :       if (real_isinf (arg))
     989                 :         361 :         *result = wi::shwi (arg->sign ? -1 : 1, precision);
     990                 :             :       else
     991                 :          46 :         *result = wi::shwi (0, precision);
     992                 :             :       return true;
     993                 :             : 
     994                 :        1399 :     CASE_CFN_ISNAN:
     995                 :        1399 :     case CFN_BUILT_IN_ISNAND32:
     996                 :        1399 :     case CFN_BUILT_IN_ISNAND64:
     997                 :        1399 :     case CFN_BUILT_IN_ISNAND128:
     998                 :        2518 :       *result = wi::shwi (real_isnan (arg) ? 1 : 0, precision);
     999                 :        1399 :       return true;
    1000                 :             : 
    1001                 :             :     default:
    1002                 :             :       return false;
    1003                 :             :     }
    1004                 :             : }
    1005                 :             : 
    1006                 :             : /* Try to evaluate:
    1007                 :             : 
    1008                 :             :       *RESULT = FN (ARG)
    1009                 :             : 
    1010                 :             :    where ARG_TYPE is the type of ARG and PRECISION is the number of bits
    1011                 :             :    in the result.  Return true on success.  */
    1012                 :             : 
    1013                 :             : static bool
    1014                 :     3175567 : fold_const_call_ss (wide_int *result, combined_fn fn, const wide_int_ref &arg,
    1015                 :             :                     unsigned int precision, tree arg_type)
    1016                 :             : {
    1017                 :     3175567 :   switch (fn)
    1018                 :             :     {
    1019                 :        1175 :     CASE_CFN_FFS:
    1020                 :        1175 :     case CFN_BUILT_IN_FFSG:
    1021                 :        1175 :       *result = wi::shwi (wi::ffs (arg), precision);
    1022                 :        1175 :       return true;
    1023                 :             : 
    1024                 :        7127 :     CASE_CFN_CLZ:
    1025                 :        7127 :     case CFN_BUILT_IN_CLZG:
    1026                 :        7127 :       {
    1027                 :        7127 :         int tmp;
    1028                 :        7127 :         if (wi::ne_p (arg, 0))
    1029                 :        6646 :           tmp = wi::clz (arg);
    1030                 :         481 :         else if (TREE_CODE (arg_type) == BITINT_TYPE)
    1031                 :           9 :           tmp = TYPE_PRECISION (arg_type);
    1032                 :         944 :         else if (!CLZ_DEFINED_VALUE_AT_ZERO (SCALAR_INT_TYPE_MODE (arg_type),
    1033                 :             :                                              tmp))
    1034                 :         472 :           tmp = TYPE_PRECISION (arg_type);
    1035                 :        7127 :         *result = wi::shwi (tmp, precision);
    1036                 :        7127 :         return true;
    1037                 :             :       }
    1038                 :             : 
    1039                 :        4871 :     CASE_CFN_CTZ:
    1040                 :        4871 :     case CFN_BUILT_IN_CTZG:
    1041                 :        4871 :       {
    1042                 :        4871 :         int tmp;
    1043                 :        4871 :         if (wi::ne_p (arg, 0))
    1044                 :        4627 :           tmp = wi::ctz (arg);
    1045                 :         244 :         else if (TREE_CODE (arg_type) == BITINT_TYPE)
    1046                 :           0 :           tmp = TYPE_PRECISION (arg_type);
    1047                 :         488 :         else if (!CTZ_DEFINED_VALUE_AT_ZERO (SCALAR_INT_TYPE_MODE (arg_type),
    1048                 :             :                                              tmp))
    1049                 :         244 :           tmp = TYPE_PRECISION (arg_type);
    1050                 :        4871 :         *result = wi::shwi (tmp, precision);
    1051                 :        4871 :         return true;
    1052                 :             :       }
    1053                 :             : 
    1054                 :        1242 :     CASE_CFN_CLRSB:
    1055                 :        1242 :     case CFN_BUILT_IN_CLRSBG:
    1056                 :        1242 :       *result = wi::shwi (wi::clrsb (arg), precision);
    1057                 :        1242 :       return true;
    1058                 :             : 
    1059                 :        2284 :     CASE_CFN_POPCOUNT:
    1060                 :        2284 :     case CFN_BUILT_IN_POPCOUNTG:
    1061                 :        2284 :       *result = wi::shwi (wi::popcount (arg), precision);
    1062                 :        2284 :       return true;
    1063                 :             : 
    1064                 :        1063 :     CASE_CFN_PARITY:
    1065                 :        1063 :     case CFN_BUILT_IN_PARITYG:
    1066                 :        1063 :       *result = wi::shwi (wi::parity (arg), precision);
    1067                 :        1063 :       return true;
    1068                 :             : 
    1069                 :         741 :     case CFN_BUILT_IN_BSWAP16:
    1070                 :         741 :     case CFN_BUILT_IN_BSWAP32:
    1071                 :         741 :     case CFN_BUILT_IN_BSWAP64:
    1072                 :         741 :     case CFN_BUILT_IN_BSWAP128:
    1073                 :        1482 :       *result = wi::bswap (wide_int::from (arg, precision,
    1074                 :        1482 :                                            TYPE_SIGN (arg_type)));
    1075                 :         741 :       return true;
    1076                 :             : 
    1077                 :             :     default:
    1078                 :             :       return false;
    1079                 :             :     }
    1080                 :             : }
    1081                 :             : 
    1082                 :             : /* Try to evaluate:
    1083                 :             : 
    1084                 :             :       RESULT = FN (*ARG)
    1085                 :             : 
    1086                 :             :    where FORMAT is the format of ARG and of the real and imaginary parts
    1087                 :             :    of RESULT, passed as RESULT_REAL and RESULT_IMAG respectively.  Return
    1088                 :             :    true on success.  */
    1089                 :             : 
    1090                 :             : static bool
    1091                 :         158 : fold_const_call_cs (real_value *result_real, real_value *result_imag,
    1092                 :             :                     combined_fn fn, const real_value *arg,
    1093                 :             :                     const real_format *format)
    1094                 :             : {
    1095                 :           0 :   switch (fn)
    1096                 :             :     {
    1097                 :         158 :     CASE_CFN_CEXPI:
    1098                 :             :       /* cexpi(x+yi) = cos(x)+sin(y)*i.  */
    1099                 :         158 :       return do_mpfr_sincos (result_imag, result_real, arg, format);
    1100                 :             : 
    1101                 :             :     default:
    1102                 :             :       return false;
    1103                 :             :     }
    1104                 :             : }
    1105                 :             : 
    1106                 :             : /* Try to evaluate:
    1107                 :             : 
    1108                 :             :       *RESULT = fn (ARG)
    1109                 :             : 
    1110                 :             :    where FORMAT is the format of RESULT and of the real and imaginary parts
    1111                 :             :    of ARG, passed as ARG_REAL and ARG_IMAG respectively.  Return true on
    1112                 :             :    success.  */
    1113                 :             : 
    1114                 :             : static bool
    1115                 :        2104 : fold_const_call_sc (real_value *result, combined_fn fn,
    1116                 :             :                     const real_value *arg_real, const real_value *arg_imag,
    1117                 :             :                     const real_format *format)
    1118                 :             : {
    1119                 :           0 :   switch (fn)
    1120                 :             :     {
    1121                 :         968 :     CASE_CFN_CABS:
    1122                 :         968 :     CASE_CFN_CABS_FN:
    1123                 :         968 :       return do_mpfr_arg2 (result, mpfr_hypot, arg_real, arg_imag, format);
    1124                 :             : 
    1125                 :             :     default:
    1126                 :             :       return false;
    1127                 :             :     }
    1128                 :             : }
    1129                 :             : 
    1130                 :             : /* Try to evaluate:
    1131                 :             : 
    1132                 :             :       RESULT = fn (ARG)
    1133                 :             : 
    1134                 :             :    where FORMAT is the format of the real and imaginary parts of RESULT
    1135                 :             :    (RESULT_REAL and RESULT_IMAG) and of ARG (ARG_REAL and ARG_IMAG).
    1136                 :             :    Return true on success.  */
    1137                 :             : 
    1138                 :             : static bool
    1139                 :       38737 : fold_const_call_cc (real_value *result_real, real_value *result_imag,
    1140                 :             :                     combined_fn fn, const real_value *arg_real,
    1141                 :             :                     const real_value *arg_imag, const real_format *format)
    1142                 :             : {
    1143                 :       38737 :   switch (fn)
    1144                 :             :     {
    1145                 :         682 :     CASE_CFN_CCOS:
    1146                 :         682 :     CASE_CFN_CCOS_FN:
    1147                 :         682 :       return do_mpc_arg1 (result_real, result_imag, mpc_cos,
    1148                 :         682 :                           arg_real, arg_imag, format);
    1149                 :             : 
    1150                 :         672 :     CASE_CFN_CCOSH:
    1151                 :         672 :     CASE_CFN_CCOSH_FN:
    1152                 :         672 :       return do_mpc_arg1 (result_real, result_imag, mpc_cosh,
    1153                 :         672 :                           arg_real, arg_imag, format);
    1154                 :             : 
    1155                 :         677 :     CASE_CFN_CPROJ:
    1156                 :         677 :     CASE_CFN_CPROJ_FN:
    1157                 :         677 :       if (real_isinf (arg_real) || real_isinf (arg_imag))
    1158                 :             :         {
    1159                 :         432 :           *result_real = dconstinf;
    1160                 :         432 :           *result_imag = dconst0;
    1161                 :         432 :           result_imag->sign = arg_imag->sign;
    1162                 :             :         }
    1163                 :             :       else
    1164                 :             :         {
    1165                 :         245 :           *result_real = *arg_real;
    1166                 :         245 :           *result_imag = *arg_imag;
    1167                 :             :         }
    1168                 :             :       return true;
    1169                 :             : 
    1170                 :         682 :     CASE_CFN_CSIN:
    1171                 :         682 :     CASE_CFN_CSIN_FN:
    1172                 :         682 :       return do_mpc_arg1 (result_real, result_imag, mpc_sin,
    1173                 :         682 :                           arg_real, arg_imag, format);
    1174                 :             : 
    1175                 :         672 :     CASE_CFN_CSINH:
    1176                 :         672 :     CASE_CFN_CSINH_FN:
    1177                 :         672 :       return do_mpc_arg1 (result_real, result_imag, mpc_sinh,
    1178                 :         672 :                           arg_real, arg_imag, format);
    1179                 :             : 
    1180                 :         696 :     CASE_CFN_CTAN:
    1181                 :         696 :     CASE_CFN_CTAN_FN:
    1182                 :         696 :       return do_mpc_arg1 (result_real, result_imag, mpc_tan,
    1183                 :         696 :                           arg_real, arg_imag, format);
    1184                 :             : 
    1185                 :         672 :     CASE_CFN_CTANH:
    1186                 :         672 :     CASE_CFN_CTANH_FN:
    1187                 :         672 :       return do_mpc_arg1 (result_real, result_imag, mpc_tanh,
    1188                 :         672 :                           arg_real, arg_imag, format);
    1189                 :             : 
    1190                 :         753 :     CASE_CFN_CLOG:
    1191                 :         753 :     CASE_CFN_CLOG_FN:
    1192                 :         753 :       return do_mpc_arg1 (result_real, result_imag, mpc_log,
    1193                 :         753 :                           arg_real, arg_imag, format);
    1194                 :             : 
    1195                 :        3153 :     CASE_CFN_CSQRT:
    1196                 :        3153 :     CASE_CFN_CSQRT_FN:
    1197                 :        3153 :       return do_mpc_arg1 (result_real, result_imag, mpc_sqrt,
    1198                 :        3153 :                           arg_real, arg_imag, format);
    1199                 :             : 
    1200                 :         675 :     CASE_CFN_CASIN:
    1201                 :         675 :     CASE_CFN_CASIN_FN:
    1202                 :         675 :       return do_mpc_arg1 (result_real, result_imag, mpc_asin,
    1203                 :         675 :                           arg_real, arg_imag, format);
    1204                 :             : 
    1205                 :         724 :     CASE_CFN_CACOS:
    1206                 :         724 :     CASE_CFN_CACOS_FN:
    1207                 :         724 :       return do_mpc_arg1 (result_real, result_imag, mpc_acos,
    1208                 :         724 :                           arg_real, arg_imag, format);
    1209                 :             : 
    1210                 :         675 :     CASE_CFN_CATAN:
    1211                 :         675 :     CASE_CFN_CATAN_FN:
    1212                 :         675 :       return do_mpc_arg1 (result_real, result_imag, mpc_atan,
    1213                 :         675 :                           arg_real, arg_imag, format);
    1214                 :             : 
    1215                 :         675 :     CASE_CFN_CASINH:
    1216                 :         675 :     CASE_CFN_CASINH_FN:
    1217                 :         675 :       return do_mpc_arg1 (result_real, result_imag, mpc_asinh,
    1218                 :         675 :                           arg_real, arg_imag, format);
    1219                 :             : 
    1220                 :         741 :     CASE_CFN_CACOSH:
    1221                 :         741 :     CASE_CFN_CACOSH_FN:
    1222                 :         741 :       return do_mpc_arg1 (result_real, result_imag, mpc_acosh,
    1223                 :         741 :                           arg_real, arg_imag, format);
    1224                 :             : 
    1225                 :         675 :     CASE_CFN_CATANH:
    1226                 :         675 :     CASE_CFN_CATANH_FN:
    1227                 :         675 :       return do_mpc_arg1 (result_real, result_imag, mpc_atanh,
    1228                 :         675 :                           arg_real, arg_imag, format);
    1229                 :             : 
    1230                 :        1649 :     CASE_CFN_CEXP:
    1231                 :        1649 :     CASE_CFN_CEXP_FN:
    1232                 :        1649 :       return do_mpc_arg1 (result_real, result_imag, mpc_exp,
    1233                 :        1649 :                           arg_real, arg_imag, format);
    1234                 :             : 
    1235                 :             :     default:
    1236                 :             :       return false;
    1237                 :             :     }
    1238                 :             : }
    1239                 :             : 
    1240                 :             : /* Subroutine of fold_const_call, with the same interface.  Handle cases
    1241                 :             :    where the arguments and result are numerical.  */
    1242                 :             : 
    1243                 :             : static tree
    1244                 :    14952529 : fold_const_call_1 (combined_fn fn, tree type, tree arg)
    1245                 :             : {
    1246                 :    14952529 :   machine_mode mode = TYPE_MODE (type);
    1247                 :    14952529 :   machine_mode arg_mode = TYPE_MODE (TREE_TYPE (arg));
    1248                 :             : 
    1249                 :    14952529 :   if (integer_cst_p (arg))
    1250                 :             :     {
    1251                 :     3405584 :       if (SCALAR_INT_MODE_P (mode))
    1252                 :             :         {
    1253                 :     3175567 :           wide_int result;
    1254                 :     3175567 :           if (fold_const_call_ss (&result, fn, wi::to_wide (arg),
    1255                 :     3175567 :                                   TYPE_PRECISION (type), TREE_TYPE (arg)))
    1256                 :       18503 :             return wide_int_to_tree (type, result);
    1257                 :     3175567 :         }
    1258                 :     3387081 :       return NULL_TREE;
    1259                 :             :     }
    1260                 :             : 
    1261                 :    11546945 :   if (real_cst_p (arg))
    1262                 :             :     {
    1263                 :      208649 :       gcc_checking_assert (SCALAR_FLOAT_MODE_P (arg_mode));
    1264                 :      208649 :       if (mode == arg_mode)
    1265                 :             :         {
    1266                 :             :           /* real -> real.  */
    1267                 :      190667 :           REAL_VALUE_TYPE result;
    1268                 :      190667 :           if (fold_const_call_ss (&result, fn, TREE_REAL_CST_PTR (arg),
    1269                 :      190667 :                                   REAL_MODE_FORMAT (mode)))
    1270                 :      128032 :             return build_real (type, result);
    1271                 :             :         }
    1272                 :       17982 :       else if (COMPLEX_MODE_P (mode)
    1273                 :       18140 :                && GET_MODE_INNER (mode) == arg_mode)
    1274                 :             :         {
    1275                 :             :           /* real -> complex real.  */
    1276                 :         158 :           REAL_VALUE_TYPE result_real, result_imag;
    1277                 :         316 :           if (fold_const_call_cs (&result_real, &result_imag, fn,
    1278                 :         158 :                                   TREE_REAL_CST_PTR (arg),
    1279                 :         158 :                                   REAL_MODE_FORMAT (arg_mode)))
    1280                 :         316 :             return build_complex (type,
    1281                 :         158 :                                   build_real (TREE_TYPE (type), result_real),
    1282                 :         316 :                                   build_real (TREE_TYPE (type), result_imag));
    1283                 :             :         }
    1284                 :       17824 :       else if (INTEGRAL_TYPE_P (type))
    1285                 :             :         {
    1286                 :             :           /* real -> int.  */
    1287                 :       17821 :           wide_int result;
    1288                 :       17821 :           if (fold_const_call_ss (&result, fn,
    1289                 :       17821 :                                   TREE_REAL_CST_PTR (arg),
    1290                 :       17821 :                                   TYPE_PRECISION (type),
    1291                 :       17821 :                                   REAL_MODE_FORMAT (arg_mode)))
    1292                 :       11052 :             return wide_int_to_tree (type, result);
    1293                 :       17821 :         }
    1294                 :       69407 :       return NULL_TREE;
    1295                 :             :     }
    1296                 :             : 
    1297                 :    11338296 :   if (complex_cst_p (arg))
    1298                 :             :     {
    1299                 :       40841 :       gcc_checking_assert (COMPLEX_MODE_P (arg_mode));
    1300                 :       40841 :       machine_mode inner_mode = GET_MODE_INNER (arg_mode);
    1301                 :       40841 :       tree argr = TREE_REALPART (arg);
    1302                 :       40841 :       tree argi = TREE_IMAGPART (arg);
    1303                 :       40841 :       if (mode == arg_mode
    1304                 :       38737 :           && real_cst_p (argr)
    1305                 :       79578 :           && real_cst_p (argi))
    1306                 :             :         {
    1307                 :             :           /* complex real -> complex real.  */
    1308                 :       38737 :           REAL_VALUE_TYPE result_real, result_imag;
    1309                 :       77474 :           if (fold_const_call_cc (&result_real, &result_imag, fn,
    1310                 :       38737 :                                   TREE_REAL_CST_PTR (argr),
    1311                 :       38737 :                                   TREE_REAL_CST_PTR (argi),
    1312                 :       38737 :                                   REAL_MODE_FORMAT (inner_mode)))
    1313                 :       20754 :             return build_complex (type,
    1314                 :       10377 :                                   build_real (TREE_TYPE (type), result_real),
    1315                 :       20754 :                                   build_real (TREE_TYPE (type), result_imag));
    1316                 :             :         }
    1317                 :       30464 :       if (mode == inner_mode
    1318                 :        2104 :           && real_cst_p (argr)
    1319                 :       32568 :           && real_cst_p (argi))
    1320                 :             :         {
    1321                 :             :           /* complex real -> real.  */
    1322                 :        2104 :           REAL_VALUE_TYPE result;
    1323                 :        4208 :           if (fold_const_call_sc (&result, fn,
    1324                 :        2104 :                                   TREE_REAL_CST_PTR (argr),
    1325                 :        2104 :                                   TREE_REAL_CST_PTR (argi),
    1326                 :        2104 :                                   REAL_MODE_FORMAT (inner_mode)))
    1327                 :         968 :             return build_real (type, result);
    1328                 :             :         }
    1329                 :       29496 :       return NULL_TREE;
    1330                 :             :     }
    1331                 :             : 
    1332                 :             :   return NULL_TREE;
    1333                 :             : }
    1334                 :             : 
    1335                 :             : /* Try to fold FN (ARG) to a constant.  Return the constant on success,
    1336                 :             :    otherwise return null.  TYPE is the type of the return value.  */
    1337                 :             : 
    1338                 :             : tree
    1339                 :    15725987 : fold_const_call (combined_fn fn, tree type, tree arg)
    1340                 :             : {
    1341                 :    15725987 :   switch (fn)
    1342                 :             :     {
    1343                 :      443400 :     case CFN_BUILT_IN_STRLEN:
    1344                 :      443400 :       if (const char *str = c_getstr (arg))
    1345                 :       29042 :         return build_int_cst (type, strlen (str));
    1346                 :             :       return NULL_TREE;
    1347                 :             : 
    1348                 :      200419 :     CASE_CFN_NAN:
    1349                 :      200419 :     CASE_FLT_FN_FLOATN_NX (CFN_BUILT_IN_NAN):
    1350                 :      200419 :     case CFN_BUILT_IN_NAND32:
    1351                 :      200419 :     case CFN_BUILT_IN_NAND64:
    1352                 :      200419 :     case CFN_BUILT_IN_NAND128:
    1353                 :      200419 :     case CFN_BUILT_IN_NAND64X:
    1354                 :      200419 :       return fold_const_builtin_nan (type, arg, true);
    1355                 :             : 
    1356                 :      127585 :     CASE_CFN_NANS:
    1357                 :      127585 :     CASE_FLT_FN_FLOATN_NX (CFN_BUILT_IN_NANS):
    1358                 :      127585 :     case CFN_BUILT_IN_NANSF16B:
    1359                 :      127585 :     case CFN_BUILT_IN_NANSD32:
    1360                 :      127585 :     case CFN_BUILT_IN_NANSD64:
    1361                 :      127585 :     case CFN_BUILT_IN_NANSD128:
    1362                 :      127585 :     case CFN_BUILT_IN_NANSD64X:
    1363                 :      127585 :       return fold_const_builtin_nan (type, arg, false);
    1364                 :             : 
    1365                 :        1645 :     case CFN_REDUC_PLUS:
    1366                 :        1645 :       return fold_const_reduction (type, arg, PLUS_EXPR);
    1367                 :             : 
    1368                 :          42 :     case CFN_REDUC_MAX:
    1369                 :          42 :       return fold_const_reduction (type, arg, MAX_EXPR);
    1370                 :             : 
    1371                 :          56 :     case CFN_REDUC_MIN:
    1372                 :          56 :       return fold_const_reduction (type, arg, MIN_EXPR);
    1373                 :             : 
    1374                 :          30 :     case CFN_REDUC_AND:
    1375                 :          30 :       return fold_const_reduction (type, arg, BIT_AND_EXPR);
    1376                 :             : 
    1377                 :         137 :     case CFN_REDUC_IOR:
    1378                 :         137 :       return fold_const_reduction (type, arg, BIT_IOR_EXPR);
    1379                 :             : 
    1380                 :           6 :     case CFN_REDUC_XOR:
    1381                 :           6 :       return fold_const_reduction (type, arg, BIT_XOR_EXPR);
    1382                 :             : 
    1383                 :         138 :     case CFN_VEC_CONVERT:
    1384                 :         138 :       return fold_const_vec_convert (type, arg);
    1385                 :             : 
    1386                 :    14952529 :     default:
    1387                 :    14952529 :       return fold_const_call_1 (fn, type, arg);
    1388                 :             :     }
    1389                 :             : }
    1390                 :             : 
    1391                 :             : /* Fold a call to IFN_FOLD_LEFT_<CODE> (ARG0, ARG1), returning a value
    1392                 :             :    of type TYPE.  */
    1393                 :             : 
    1394                 :             : static tree
    1395                 :           0 : fold_const_fold_left (tree type, tree arg0, tree arg1, tree_code code)
    1396                 :             : {
    1397                 :           0 :   if (TREE_CODE (arg1) != VECTOR_CST)
    1398                 :             :     return NULL_TREE;
    1399                 :             : 
    1400                 :           0 :   unsigned HOST_WIDE_INT nelts;
    1401                 :           0 :   if (!VECTOR_CST_NELTS (arg1).is_constant (&nelts))
    1402                 :             :     return NULL_TREE;
    1403                 :             : 
    1404                 :           0 :   for (unsigned HOST_WIDE_INT i = 0; i < nelts; i++)
    1405                 :             :     {
    1406                 :           0 :       arg0 = const_binop (code, type, arg0, VECTOR_CST_ELT (arg1, i));
    1407                 :           0 :       if (arg0 == NULL_TREE || !CONSTANT_CLASS_P (arg0))
    1408                 :             :         return NULL_TREE;
    1409                 :             :     }
    1410                 :             :   return arg0;
    1411                 :             : }
    1412                 :             : 
    1413                 :             : /* Try to evaluate:
    1414                 :             : 
    1415                 :             :       *RESULT = FN (*ARG0, *ARG1)
    1416                 :             : 
    1417                 :             :    in format FORMAT.  Return true on success.  */
    1418                 :             : 
    1419                 :             : static bool
    1420                 :      245838 : fold_const_call_sss (real_value *result, combined_fn fn,
    1421                 :             :                      const real_value *arg0, const real_value *arg1,
    1422                 :             :                      const real_format *format)
    1423                 :             : {
    1424                 :      245838 :   switch (fn)
    1425                 :             :     {
    1426                 :        6984 :     CASE_CFN_DREM:
    1427                 :        6984 :     CASE_CFN_REMAINDER:
    1428                 :        6984 :     CASE_CFN_REMAINDER_FN:
    1429                 :        6984 :       return do_mpfr_arg2 (result, mpfr_remainder, arg0, arg1, format);
    1430                 :             : 
    1431                 :         932 :     CASE_CFN_ATAN2:
    1432                 :         932 :     CASE_CFN_ATAN2_FN:
    1433                 :         932 :       return do_mpfr_arg2 (result, mpfr_atan2, arg0, arg1, format);
    1434                 :             : 
    1435                 :         564 :     CASE_CFN_FDIM:
    1436                 :         564 :     CASE_CFN_FDIM_FN:
    1437                 :         564 :       return do_mpfr_arg2 (result, mpfr_dim, arg0, arg1, format);
    1438                 :             : 
    1439                 :         501 :     CASE_CFN_FMOD:
    1440                 :         501 :     CASE_CFN_FMOD_FN:
    1441                 :         501 :       return do_mpfr_arg2 (result, mpfr_fmod, arg0, arg1, format);
    1442                 :             : 
    1443                 :         574 :     CASE_CFN_HYPOT:
    1444                 :         574 :     CASE_CFN_HYPOT_FN:
    1445                 :         574 :       return do_mpfr_arg2 (result, mpfr_hypot, arg0, arg1, format);
    1446                 :             : 
    1447                 :       70639 :     CASE_CFN_COPYSIGN:
    1448                 :       70639 :     CASE_CFN_COPYSIGN_FN:
    1449                 :       70639 :       *result = *arg0;
    1450                 :       70639 :       real_copysign (result, arg1);
    1451                 :       70639 :       return true;
    1452                 :             : 
    1453                 :        3343 :     CASE_CFN_FMIN:
    1454                 :        3343 :     CASE_CFN_FMIN_FN:
    1455                 :        3343 :       return do_mpfr_arg2 (result, mpfr_min, arg0, arg1, format);
    1456                 :             : 
    1457                 :        3343 :     CASE_CFN_FMAX:
    1458                 :        3343 :     CASE_CFN_FMAX_FN:
    1459                 :        3343 :       return do_mpfr_arg2 (result, mpfr_max, arg0, arg1, format);
    1460                 :             : 
    1461                 :      145317 :     CASE_CFN_POW:
    1462                 :      145317 :     CASE_CFN_POW_FN:
    1463                 :      145317 :       return fold_const_pow (result, arg0, arg1, format);
    1464                 :             : 
    1465                 :       13641 :     CASE_CFN_NEXTAFTER:
    1466                 :       13641 :     CASE_CFN_NEXTAFTER_FN:
    1467                 :       13641 :     case CFN_BUILT_IN_NEXTAFTERF16B:
    1468                 :       13641 :     CASE_CFN_NEXTTOWARD:
    1469                 :       13641 :       return fold_const_nextafter (result, arg0, arg1, format);
    1470                 :             : 
    1471                 :             :     default:
    1472                 :             :       return false;
    1473                 :             :     }
    1474                 :             : }
    1475                 :             : 
    1476                 :             : /* Try to evaluate:
    1477                 :             : 
    1478                 :             :       *RESULT = FN (*ARG0, ARG1)
    1479                 :             : 
    1480                 :             :    where FORMAT is the format of *RESULT and *ARG0.  Return true on
    1481                 :             :    success.  */
    1482                 :             : 
    1483                 :             : static bool
    1484                 :       26538 : fold_const_call_sss (real_value *result, combined_fn fn,
    1485                 :             :                      const real_value *arg0, const wide_int_ref &arg1,
    1486                 :             :                      const real_format *format)
    1487                 :             : {
    1488                 :       26538 :   switch (fn)
    1489                 :             :     {
    1490                 :        8201 :     CASE_CFN_LDEXP:
    1491                 :        8201 :     CASE_CFN_LDEXP_FN:
    1492                 :        8201 :       return fold_const_builtin_load_exponent (result, arg0, arg1, format);
    1493                 :             : 
    1494                 :       17970 :     CASE_CFN_SCALBN:
    1495                 :       17970 :     CASE_CFN_SCALBN_FN:
    1496                 :       17970 :     CASE_CFN_SCALBLN:
    1497                 :       17970 :     CASE_CFN_SCALBLN_FN:
    1498                 :       17970 :       return (format->b == 2
    1499                 :       17970 :               && fold_const_builtin_load_exponent (result, arg0, arg1,
    1500                 :             :                                                    format));
    1501                 :             : 
    1502                 :         358 :     CASE_CFN_POWI:
    1503                 :             :       /* Avoid the folding if flag_signaling_nans is on and
    1504                 :             :          operand is a signaling NaN.  */
    1505                 :         358 :       if (!flag_unsafe_math_optimizations
    1506                 :         345 :           && flag_signaling_nans
    1507                 :         373 :           && REAL_VALUE_ISSIGNALING_NAN (*arg0))
    1508                 :             :         return false;
    1509                 :             : 
    1510                 :         358 :       real_powi (result, format, arg0, arg1.to_shwi ());
    1511                 :         358 :       return true;
    1512                 :             : 
    1513                 :             :     default:
    1514                 :             :       return false;
    1515                 :             :     }
    1516                 :             : }
    1517                 :             : 
    1518                 :             : /* Try to evaluate:
    1519                 :             : 
    1520                 :             :       *RESULT = FN (ARG0, *ARG1)
    1521                 :             : 
    1522                 :             :    where FORMAT is the format of *RESULT and *ARG1.  Return true on
    1523                 :             :    success.  */
    1524                 :             : 
    1525                 :             : static bool
    1526                 :        6638 : fold_const_call_sss (real_value *result, combined_fn fn,
    1527                 :             :                      const wide_int_ref &arg0, const real_value *arg1,
    1528                 :             :                      const real_format *format)
    1529                 :             : {
    1530                 :        6638 :   switch (fn)
    1531                 :             :     {
    1532                 :        1208 :     CASE_CFN_JN:
    1533                 :        1208 :       return do_mpfr_arg2 (result, mpfr_jn, arg0, arg1, format);
    1534                 :             : 
    1535                 :        5421 :     CASE_CFN_YN:
    1536                 :        5421 :       return (real_compare (GT_EXPR, arg1, &dconst0)
    1537                 :        5421 :               && do_mpfr_arg2 (result, mpfr_yn, arg0, arg1, format));
    1538                 :             : 
    1539                 :             :     default:
    1540                 :             :       return false;
    1541                 :             :     }
    1542                 :             : }
    1543                 :             : 
    1544                 :             : /* Try to evaluate:
    1545                 :             : 
    1546                 :             :       *RESULT = FN (ARG0, ARG1)
    1547                 :             : 
    1548                 :             :    where ARG_TYPE is the type of ARG0 and PRECISION is the number of bits in
    1549                 :             :    the result.  Return true on success.  */
    1550                 :             : 
    1551                 :             : static bool
    1552                 :      108331 : fold_const_call_sss (wide_int *result, combined_fn fn,
    1553                 :             :                      const wide_int_ref &arg0, const wide_int_ref &arg1,
    1554                 :             :                      unsigned int precision, tree arg_type ATTRIBUTE_UNUSED)
    1555                 :             : {
    1556                 :      108331 :   switch (fn)
    1557                 :             :     {
    1558                 :         851 :     case CFN_CLZ:
    1559                 :         851 :     case CFN_BUILT_IN_CLZG:
    1560                 :         851 :       {
    1561                 :         851 :         int tmp;
    1562                 :         851 :         if (wi::ne_p (arg0, 0))
    1563                 :         507 :           tmp = wi::clz (arg0);
    1564                 :             :         else
    1565                 :         344 :           tmp = arg1.to_shwi ();
    1566                 :         851 :         *result = wi::shwi (tmp, precision);
    1567                 :         851 :         return true;
    1568                 :             :       }
    1569                 :             : 
    1570                 :         602 :     case CFN_CTZ:
    1571                 :         602 :     case CFN_BUILT_IN_CTZG:
    1572                 :         602 :       {
    1573                 :         602 :         int tmp;
    1574                 :         602 :         if (wi::ne_p (arg0, 0))
    1575                 :         316 :           tmp = wi::ctz (arg0);
    1576                 :             :         else
    1577                 :         286 :           tmp = arg1.to_shwi ();
    1578                 :         602 :         *result = wi::shwi (tmp, precision);
    1579                 :         602 :         return true;
    1580                 :             :       }
    1581                 :             : 
    1582                 :             :     default:
    1583                 :             :       return false;
    1584                 :             :     }
    1585                 :             : }
    1586                 :             : 
    1587                 :             : /* Try to evaluate:
    1588                 :             : 
    1589                 :             :       RESULT = fn (ARG0, ARG1)
    1590                 :             : 
    1591                 :             :    where FORMAT is the format of the real and imaginary parts of RESULT
    1592                 :             :    (RESULT_REAL and RESULT_IMAG), of ARG0 (ARG0_REAL and ARG0_IMAG)
    1593                 :             :    and of ARG1 (ARG1_REAL and ARG1_IMAG).  Return true on success.  */
    1594                 :             : 
    1595                 :             : static bool
    1596                 :       33055 : fold_const_call_ccc (real_value *result_real, real_value *result_imag,
    1597                 :             :                      combined_fn fn, const real_value *arg0_real,
    1598                 :             :                      const real_value *arg0_imag, const real_value *arg1_real,
    1599                 :             :                      const real_value *arg1_imag, const real_format *format)
    1600                 :             : {
    1601                 :           0 :   switch (fn)
    1602                 :             :     {
    1603                 :       33055 :     CASE_CFN_CPOW:
    1604                 :       33055 :     CASE_CFN_CPOW_FN:
    1605                 :       33055 :       return do_mpc_arg2 (result_real, result_imag, mpc_pow,
    1606                 :           0 :                           arg0_real, arg0_imag, arg1_real, arg1_imag, format);
    1607                 :             : 
    1608                 :             :     default:
    1609                 :             :       return false;
    1610                 :             :     }
    1611                 :             : }
    1612                 :             : 
    1613                 :             : /* Subroutine of fold_const_call, with the same interface.  Handle cases
    1614                 :             :    where the arguments and result are numerical.  */
    1615                 :             : 
    1616                 :             : static tree
    1617                 :    13070530 : fold_const_call_1 (combined_fn fn, tree type, tree arg0, tree arg1)
    1618                 :             : {
    1619                 :    13070530 :   machine_mode mode = TYPE_MODE (type);
    1620                 :    13070530 :   machine_mode arg0_mode = TYPE_MODE (TREE_TYPE (arg0));
    1621                 :    13070530 :   machine_mode arg1_mode = TYPE_MODE (TREE_TYPE (arg1));
    1622                 :             : 
    1623                 :    13070530 :   if (integer_cst_p (arg0) && integer_cst_p (arg1))
    1624                 :             :     {
    1625                 :      114798 :       if (SCALAR_INT_MODE_P (mode))
    1626                 :             :         {
    1627                 :      108331 :           wide_int result;
    1628                 :      108331 :           if (fold_const_call_sss (&result, fn, wi::to_wide (arg0),
    1629                 :      216662 :                                    wi::to_wide (arg1), TYPE_PRECISION (type),
    1630                 :      108331 :                                    TREE_TYPE (arg0)))
    1631                 :        1453 :             return wide_int_to_tree (type, result);
    1632                 :      108331 :         }
    1633                 :      113345 :       return NULL_TREE;
    1634                 :             :     }
    1635                 :             : 
    1636                 :    12955732 :   if (mode == arg0_mode
    1637                 :     8600700 :       && real_cst_p (arg0)
    1638                 :    14253172 :       && real_cst_p (arg1))
    1639                 :             :     {
    1640                 :      245838 :       gcc_checking_assert (SCALAR_FLOAT_MODE_P (arg0_mode));
    1641                 :      245838 :       REAL_VALUE_TYPE result;
    1642                 :      245838 :       if (arg0_mode == arg1_mode)
    1643                 :             :         {
    1644                 :             :           /* real, real -> real.  */
    1645                 :      491096 :           if (fold_const_call_sss (&result, fn, TREE_REAL_CST_PTR (arg0),
    1646                 :      245548 :                                    TREE_REAL_CST_PTR (arg1),
    1647                 :      245548 :                                    REAL_MODE_FORMAT (mode)))
    1648                 :      211999 :             return build_real (type, result);
    1649                 :             :         }
    1650                 :         290 :       else if (arg1_mode == TYPE_MODE (long_double_type_node))
    1651                 :         290 :         switch (fn)
    1652                 :             :           {
    1653                 :         290 :           CASE_CFN_NEXTTOWARD:
    1654                 :             :             /* real, long double -> real.  */
    1655                 :         580 :             if (fold_const_call_sss (&result, fn, TREE_REAL_CST_PTR (arg0),
    1656                 :         290 :                                      TREE_REAL_CST_PTR (arg1),
    1657                 :         290 :                                      REAL_MODE_FORMAT (mode)))
    1658                 :         228 :               return build_real (type, result);
    1659                 :             :             break;
    1660                 :             :           default:
    1661                 :             :             break;
    1662                 :             :           }
    1663                 :       33611 :       return NULL_TREE;
    1664                 :             :     }
    1665                 :             : 
    1666                 :    12709894 :   if (real_cst_p (arg0)
    1667                 :    12709894 :       && integer_cst_p (arg1))
    1668                 :             :     {
    1669                 :       26541 :       gcc_checking_assert (SCALAR_FLOAT_MODE_P (arg0_mode));
    1670                 :       26541 :       if (mode == arg0_mode)
    1671                 :             :         {
    1672                 :             :           /* real, int -> real.  */
    1673                 :       26538 :           REAL_VALUE_TYPE result;
    1674                 :       26538 :           if (fold_const_call_sss (&result, fn, TREE_REAL_CST_PTR (arg0),
    1675                 :       53076 :                                    wi::to_wide (arg1),
    1676                 :       26538 :                                    REAL_MODE_FORMAT (mode)))
    1677                 :        5471 :             return build_real (type, result);
    1678                 :             :         }
    1679                 :       21070 :       return NULL_TREE;
    1680                 :             :     }
    1681                 :             : 
    1682                 :    12683353 :   if (integer_cst_p (arg0)
    1683                 :    12683353 :       && real_cst_p (arg1))
    1684                 :             :     {
    1685                 :        6638 :       gcc_checking_assert (SCALAR_FLOAT_MODE_P (arg1_mode));
    1686                 :        6638 :       if (mode == arg1_mode)
    1687                 :             :         {
    1688                 :             :           /* int, real -> real.  */
    1689                 :        6638 :           REAL_VALUE_TYPE result;
    1690                 :       13276 :           if (fold_const_call_sss (&result, fn, wi::to_wide (arg0),
    1691                 :        6638 :                                    TREE_REAL_CST_PTR (arg1),
    1692                 :        6638 :                                    REAL_MODE_FORMAT (mode)))
    1693                 :        1743 :             return build_real (type, result);
    1694                 :             :         }
    1695                 :        4895 :       return NULL_TREE;
    1696                 :             :     }
    1697                 :             : 
    1698                 :    12676715 :   if (arg0_mode == arg1_mode
    1699                 :    10214504 :       && complex_cst_p (arg0)
    1700                 :    12709770 :       && complex_cst_p (arg1))
    1701                 :             :     {
    1702                 :       33055 :       gcc_checking_assert (COMPLEX_MODE_P (arg0_mode));
    1703                 :       33055 :       machine_mode inner_mode = GET_MODE_INNER (arg0_mode);
    1704                 :       33055 :       tree arg0r = TREE_REALPART (arg0);
    1705                 :       33055 :       tree arg0i = TREE_IMAGPART (arg0);
    1706                 :       33055 :       tree arg1r = TREE_REALPART (arg1);
    1707                 :       33055 :       tree arg1i = TREE_IMAGPART (arg1);
    1708                 :       33055 :       if (mode == arg0_mode
    1709                 :       33055 :           && real_cst_p (arg0r)
    1710                 :       33055 :           && real_cst_p (arg0i)
    1711                 :       33055 :           && real_cst_p (arg1r)
    1712                 :       66110 :           && real_cst_p (arg1i))
    1713                 :             :         {
    1714                 :             :           /* complex real, complex real -> complex real.  */
    1715                 :       33055 :           REAL_VALUE_TYPE result_real, result_imag;
    1716                 :       66110 :           if (fold_const_call_ccc (&result_real, &result_imag, fn,
    1717                 :       33055 :                                    TREE_REAL_CST_PTR (arg0r),
    1718                 :       33055 :                                    TREE_REAL_CST_PTR (arg0i),
    1719                 :       33055 :                                    TREE_REAL_CST_PTR (arg1r),
    1720                 :       33055 :                                    TREE_REAL_CST_PTR (arg1i),
    1721                 :       33055 :                                    REAL_MODE_FORMAT (inner_mode)))
    1722                 :       21470 :             return build_complex (type,
    1723                 :       10735 :                                   build_real (TREE_TYPE (type), result_real),
    1724                 :       21470 :                                   build_real (TREE_TYPE (type), result_imag));
    1725                 :             :         }
    1726                 :       22320 :       return NULL_TREE;
    1727                 :             :     }
    1728                 :             : 
    1729                 :             :   return NULL_TREE;
    1730                 :             : }
    1731                 :             : 
    1732                 :             : /* Try to fold FN (ARG0, ARG1) to a constant.  Return the constant on success,
    1733                 :             :    otherwise return null.  TYPE is the type of the return value.  */
    1734                 :             : 
    1735                 :             : tree
    1736                 :    15675349 : fold_const_call (combined_fn fn, tree type, tree arg0, tree arg1)
    1737                 :             : {
    1738                 :    15675349 :   const char *p0, *p1;
    1739                 :    15675349 :   char c;
    1740                 :    15675349 :   tree_code subcode;
    1741                 :    15675349 :   switch (fn)
    1742                 :             :     {
    1743                 :        1909 :     case CFN_BUILT_IN_STRSPN:
    1744                 :        1909 :       if ((p0 = c_getstr (arg0)) && (p1 = c_getstr (arg1)))
    1745                 :         123 :         return build_int_cst (type, strspn (p0, p1));
    1746                 :             :       return NULL_TREE;
    1747                 :             : 
    1748                 :        1632 :     case CFN_BUILT_IN_STRCSPN:
    1749                 :        1632 :       if ((p0 = c_getstr (arg0)) && (p1 = c_getstr (arg1)))
    1750                 :         123 :         return build_int_cst (type, strcspn (p0, p1));
    1751                 :             :       return NULL_TREE;
    1752                 :             : 
    1753                 :     2170536 :     case CFN_BUILT_IN_STRCMP:
    1754                 :     2170536 :       if ((p0 = c_getstr (arg0)) && (p1 = c_getstr (arg1)))
    1755                 :       24190 :         return build_cmp_result (type, strcmp (p0, p1));
    1756                 :             :       return NULL_TREE;
    1757                 :             : 
    1758                 :         251 :     case CFN_BUILT_IN_STRCASECMP:
    1759                 :         251 :       if ((p0 = c_getstr (arg0)) && (p1 = c_getstr (arg1)))
    1760                 :             :         {
    1761                 :           7 :           int r = strcmp (p0, p1);
    1762                 :           7 :           if (r == 0)
    1763                 :           1 :             return build_cmp_result (type, r);
    1764                 :             :         }
    1765                 :             :       return NULL_TREE;
    1766                 :             : 
    1767                 :      168098 :     case CFN_BUILT_IN_INDEX:
    1768                 :      168098 :     case CFN_BUILT_IN_STRCHR:
    1769                 :      168098 :       if ((p0 = c_getstr (arg0)) && target_char_cst_p (arg1, &c))
    1770                 :             :         {
    1771                 :         166 :           const char *r = strchr (p0, c);
    1772                 :         166 :           if (r == NULL)
    1773                 :          44 :             return build_int_cst (type, 0);
    1774                 :         122 :           return fold_convert (type,
    1775                 :             :                                fold_build_pointer_plus_hwi (arg0, r - p0));
    1776                 :             :         }
    1777                 :             :       return NULL_TREE;
    1778                 :             : 
    1779                 :      158629 :     case CFN_BUILT_IN_RINDEX:
    1780                 :      158629 :     case CFN_BUILT_IN_STRRCHR:
    1781                 :      158629 :       if ((p0 = c_getstr (arg0)) && target_char_cst_p (arg1, &c))
    1782                 :             :         {
    1783                 :         133 :           const char *r = strrchr (p0, c);
    1784                 :         133 :           if (r == NULL)
    1785                 :          47 :             return build_int_cst (type, 0);
    1786                 :          86 :           return fold_convert (type,
    1787                 :             :                                fold_build_pointer_plus_hwi (arg0, r - p0));
    1788                 :             :         }
    1789                 :             :       return NULL_TREE;
    1790                 :             : 
    1791                 :       86981 :     case CFN_BUILT_IN_STRSTR:
    1792                 :       86981 :       if ((p1 = c_getstr (arg1)))
    1793                 :             :         {
    1794                 :        5560 :           if ((p0 = c_getstr (arg0)))
    1795                 :             :             {
    1796                 :         335 :               const char *r = strstr (p0, p1);
    1797                 :         335 :               if (r == NULL)
    1798                 :          71 :                 return build_int_cst (type, 0);
    1799                 :         264 :               return fold_convert (type,
    1800                 :             :                                    fold_build_pointer_plus_hwi (arg0, r - p0));
    1801                 :             :             }
    1802                 :        5225 :           if (*p1 == '\0')
    1803                 :          13 :             return fold_convert (type, arg0);
    1804                 :             :         }
    1805                 :             :       return NULL_TREE;
    1806                 :             : 
    1807                 :           0 :     case CFN_FOLD_LEFT_PLUS:
    1808                 :           0 :       return fold_const_fold_left (type, arg0, arg1, PLUS_EXPR);
    1809                 :             : 
    1810                 :        5419 :     case CFN_UBSAN_CHECK_ADD:
    1811                 :        5419 :     case CFN_ADD_OVERFLOW:
    1812                 :        5419 :       subcode = PLUS_EXPR;
    1813                 :        5419 :       goto arith_overflow;
    1814                 :             : 
    1815                 :        6063 :     case CFN_UBSAN_CHECK_SUB:
    1816                 :        6063 :     case CFN_SUB_OVERFLOW:
    1817                 :        6063 :       subcode = MINUS_EXPR;
    1818                 :        6063 :       goto arith_overflow;
    1819                 :             : 
    1820                 :        5301 :     case CFN_UBSAN_CHECK_MUL:
    1821                 :        5301 :     case CFN_MUL_OVERFLOW:
    1822                 :        5301 :       subcode = MULT_EXPR;
    1823                 :        5301 :       goto arith_overflow;
    1824                 :             : 
    1825                 :       16783 :     arith_overflow:
    1826                 :       16783 :       if (integer_cst_p (arg0) && integer_cst_p (arg1))
    1827                 :             :         {
    1828                 :       16572 :           tree itype
    1829                 :       16572 :             = TREE_CODE (type) == COMPLEX_TYPE ? TREE_TYPE (type) : type;
    1830                 :       16572 :           bool ovf = false;
    1831                 :       16572 :           tree r = int_const_binop (subcode, fold_convert (itype, arg0),
    1832                 :       16572 :                                     fold_convert (itype, arg1));
    1833                 :       16572 :           if (!r || TREE_CODE (r) != INTEGER_CST)
    1834                 :             :             return NULL_TREE;
    1835                 :       16572 :           if (arith_overflowed_p (subcode, itype, arg0, arg1))
    1836                 :             :             ovf = true;
    1837                 :       16572 :           if (TREE_OVERFLOW (r))
    1838                 :        3378 :             r = drop_tree_overflow (r);
    1839                 :       16572 :           if (itype == type)
    1840                 :             :             {
    1841                 :        2690 :               if (ovf)
    1842                 :             :                 return NULL_TREE;
    1843                 :             :               return r;
    1844                 :             :             }
    1845                 :             :           else
    1846                 :       13882 :             return build_complex (type, r, build_int_cst (itype, ovf));
    1847                 :             :         }
    1848                 :             :       return NULL_TREE;
    1849                 :             : 
    1850                 :    13070530 :     default:
    1851                 :    13070530 :       return fold_const_call_1 (fn, type, arg0, arg1);
    1852                 :             :     }
    1853                 :             : }
    1854                 :             : 
    1855                 :             : /* Try to evaluate:
    1856                 :             : 
    1857                 :             :       *RESULT = FN (*ARG0, *ARG1, *ARG2)
    1858                 :             : 
    1859                 :             :    in format FORMAT.  Return true on success.  */
    1860                 :             : 
    1861                 :             : static bool
    1862                 :        2532 : fold_const_call_ssss (real_value *result, combined_fn fn,
    1863                 :             :                       const real_value *arg0, const real_value *arg1,
    1864                 :             :                       const real_value *arg2, const real_format *format)
    1865                 :             : {
    1866                 :        2532 :   switch (fn)
    1867                 :             :     {
    1868                 :        2532 :     CASE_CFN_FMA:
    1869                 :        2532 :     CASE_CFN_FMA_FN:
    1870                 :        2532 :       return do_mpfr_arg3 (result, mpfr_fma, arg0, arg1, arg2, format);
    1871                 :             : 
    1872                 :           0 :     case CFN_FMS:
    1873                 :           0 :       {
    1874                 :           0 :         real_value new_arg2 = real_value_negate (arg2);
    1875                 :           0 :         return do_mpfr_arg3 (result, mpfr_fma, arg0, arg1, &new_arg2, format);
    1876                 :             :       }
    1877                 :             : 
    1878                 :           0 :     case CFN_FNMA:
    1879                 :           0 :       {
    1880                 :           0 :         real_value new_arg0 = real_value_negate (arg0);
    1881                 :           0 :         return do_mpfr_arg3 (result, mpfr_fma, &new_arg0, arg1, arg2, format);
    1882                 :             :       }
    1883                 :             : 
    1884                 :           0 :     case CFN_FNMS:
    1885                 :           0 :       {
    1886                 :           0 :         real_value new_arg0 = real_value_negate (arg0);
    1887                 :           0 :         real_value new_arg2 = real_value_negate (arg2);
    1888                 :           0 :         return do_mpfr_arg3 (result, mpfr_fma, &new_arg0, arg1,
    1889                 :             :                              &new_arg2, format);
    1890                 :             :       }
    1891                 :             : 
    1892                 :             :     default:
    1893                 :             :       return false;
    1894                 :             :     }
    1895                 :             : }
    1896                 :             : 
    1897                 :             : /* Subroutine of fold_const_call, with the same interface.  Handle cases
    1898                 :             :    where the arguments and result are numerical.  */
    1899                 :             : 
    1900                 :             : static tree
    1901                 :     3689580 : fold_const_call_1 (combined_fn fn, tree type, tree arg0, tree arg1, tree arg2)
    1902                 :             : {
    1903                 :     3689580 :   machine_mode mode = TYPE_MODE (type);
    1904                 :     3689580 :   machine_mode arg0_mode = TYPE_MODE (TREE_TYPE (arg0));
    1905                 :     3689580 :   machine_mode arg1_mode = TYPE_MODE (TREE_TYPE (arg1));
    1906                 :     3689580 :   machine_mode arg2_mode = TYPE_MODE (TREE_TYPE (arg2));
    1907                 :             : 
    1908                 :     3689580 :   if (arg0_mode == arg1_mode
    1909                 :     3689580 :       && arg0_mode == arg2_mode
    1910                 :     1662320 :       && real_cst_p (arg0)
    1911                 :        2652 :       && real_cst_p (arg1)
    1912                 :     3692160 :       && real_cst_p (arg2))
    1913                 :             :     {
    1914                 :        2532 :       gcc_checking_assert (SCALAR_FLOAT_MODE_P (arg0_mode));
    1915                 :        2532 :       if (mode == arg0_mode)
    1916                 :             :         {
    1917                 :             :           /* real, real, real -> real.  */
    1918                 :        2532 :           REAL_VALUE_TYPE result;
    1919                 :        5064 :           if (fold_const_call_ssss (&result, fn, TREE_REAL_CST_PTR (arg0),
    1920                 :        2532 :                                     TREE_REAL_CST_PTR (arg1),
    1921                 :        2532 :                                     TREE_REAL_CST_PTR (arg2),
    1922                 :        2532 :                                     REAL_MODE_FORMAT (mode)))
    1923                 :        1058 :             return build_real (type, result);
    1924                 :             :         }
    1925                 :        1474 :       return NULL_TREE;
    1926                 :             :     }
    1927                 :             : 
    1928                 :             :   return NULL_TREE;
    1929                 :             : }
    1930                 :             : 
    1931                 :             : /* Try to fold FN (ARG0, ARG1, ARG2) to a constant.  Return the constant on
    1932                 :             :    success, otherwise return null.  TYPE is the type of the return value.  */
    1933                 :             : 
    1934                 :             : tree
    1935                 :     6286465 : fold_const_call (combined_fn fn, tree type, tree arg0, tree arg1, tree arg2)
    1936                 :             : {
    1937                 :     6286465 :   const char *p0, *p1;
    1938                 :     6286465 :   char c;
    1939                 :     6286465 :   unsigned HOST_WIDE_INT s0, s1, s2 = 0;
    1940                 :     6286465 :   switch (fn)
    1941                 :             :     {
    1942                 :       40341 :     case CFN_BUILT_IN_STRNCMP:
    1943                 :       40341 :       if (!size_t_cst_p (arg2, &s2))
    1944                 :             :         return NULL_TREE;
    1945                 :       26423 :       if (s2 == 0
    1946                 :         199 :           && !TREE_SIDE_EFFECTS (arg0)
    1947                 :       26594 :           && !TREE_SIDE_EFFECTS (arg1))
    1948                 :         171 :         return build_int_cst (type, 0);
    1949                 :       26252 :       else if ((p0 = c_getstr (arg0)) && (p1 = c_getstr (arg1)))
    1950                 :         573 :         return build_int_cst (type, strncmp (p0, p1, MIN (s2, SIZE_MAX)));
    1951                 :             :       return NULL_TREE;
    1952                 :             : 
    1953                 :        6977 :     case CFN_BUILT_IN_STRNCASECMP:
    1954                 :        6977 :       if (!size_t_cst_p (arg2, &s2))
    1955                 :             :         return NULL_TREE;
    1956                 :        6656 :       if (s2 == 0
    1957                 :           7 :           && !TREE_SIDE_EFFECTS (arg0)
    1958                 :        6659 :           && !TREE_SIDE_EFFECTS (arg1))
    1959                 :           3 :         return build_int_cst (type, 0);
    1960                 :        6653 :       else if ((p0 = c_getstr (arg0))
    1961                 :         436 :                && (p1 = c_getstr (arg1))
    1962                 :        6797 :                && strncmp (p0, p1, MIN (s2, SIZE_MAX)) == 0)
    1963                 :           3 :         return build_int_cst (type, 0);
    1964                 :             :       return NULL_TREE;
    1965                 :             : 
    1966                 :     2391558 :     case CFN_BUILT_IN_BCMP:
    1967                 :     2391558 :     case CFN_BUILT_IN_MEMCMP:
    1968                 :     2391558 :       if (!size_t_cst_p (arg2, &s2))
    1969                 :             :         return NULL_TREE;
    1970                 :     1602186 :       if (s2 == 0
    1971                 :       12940 :           && !TREE_SIDE_EFFECTS (arg0)
    1972                 :     1615126 :           && !TREE_SIDE_EFFECTS (arg1))
    1973                 :       12940 :         return build_int_cst (type, 0);
    1974                 :     1589246 :       if ((p0 = getbyterep (arg0, &s0))
    1975                 :       13648 :           && (p1 = getbyterep (arg1, &s1))
    1976                 :        4910 :           && s2 <= s0
    1977                 :     1593548 :           && s2 <= s1)
    1978                 :        4300 :         return build_cmp_result (type, memcmp (p0, p1, s2));
    1979                 :             :       return NULL_TREE;
    1980                 :             : 
    1981                 :      157853 :     case CFN_BUILT_IN_MEMCHR:
    1982                 :      157853 :       if (!size_t_cst_p (arg2, &s2))
    1983                 :             :         return NULL_TREE;
    1984                 :        6575 :       if (s2 == 0
    1985                 :         158 :           && !TREE_SIDE_EFFECTS (arg0)
    1986                 :        6716 :           && !TREE_SIDE_EFFECTS (arg1))
    1987                 :         138 :         return build_int_cst (type, 0);
    1988                 :        6437 :       if ((p0 = getbyterep (arg0, &s0))
    1989                 :        1678 :           && s2 <= s0
    1990                 :        7994 :           && target_char_cst_p (arg1, &c))
    1991                 :             :         {
    1992                 :         636 :           const char *r = (const char *) memchr (p0, c, s2);
    1993                 :         636 :           if (r == NULL)
    1994                 :         265 :             return build_int_cst (type, 0);
    1995                 :         371 :           return fold_convert (type,
    1996                 :             :                                fold_build_pointer_plus_hwi (arg0, r - p0));
    1997                 :             :         }
    1998                 :             :       return NULL_TREE;
    1999                 :             : 
    2000                 :           0 :     case CFN_WHILE_ULT:
    2001                 :           0 :       {
    2002                 :           0 :         poly_uint64 parg0, parg1;
    2003                 :           0 :         if (poly_int_tree_p (arg0, &parg0) && poly_int_tree_p (arg1, &parg1))
    2004                 :           0 :           return fold_while_ult (type, parg0, parg1);
    2005                 :             :         return NULL_TREE;
    2006                 :             :       }
    2007                 :             : 
    2008                 :         156 :     case CFN_UADDC:
    2009                 :         156 :     case CFN_USUBC:
    2010                 :         156 :       if (integer_cst_p (arg0) && integer_cst_p (arg1) && integer_cst_p (arg2))
    2011                 :             :         {
    2012                 :         156 :           tree itype = TREE_TYPE (type);
    2013                 :         156 :           bool ovf = false;
    2014                 :         156 :           tree_code subcode = fn == CFN_UADDC ? PLUS_EXPR : MINUS_EXPR;
    2015                 :         156 :           tree r = int_const_binop (subcode, fold_convert (itype, arg0),
    2016                 :         156 :                                     fold_convert (itype, arg1));
    2017                 :         156 :           if (!r)
    2018                 :             :             return NULL_TREE;
    2019                 :         156 :           if (arith_overflowed_p (subcode, itype, arg0, arg1))
    2020                 :             :             ovf = true;
    2021                 :         156 :           tree r2 = int_const_binop (subcode, r, fold_convert (itype, arg2));
    2022                 :         156 :           if (!r2 || TREE_CODE (r2) != INTEGER_CST)
    2023                 :             :             return NULL_TREE;
    2024                 :         156 :           if (arith_overflowed_p (subcode, itype, r, arg2))
    2025                 :          36 :             ovf = true;
    2026                 :         156 :           if (TREE_OVERFLOW (r2))
    2027                 :           0 :             r2 = drop_tree_overflow (r2);
    2028                 :         156 :           return build_complex (type, r2, build_int_cst (itype, ovf));
    2029                 :             :         }
    2030                 :             :       return NULL_TREE;
    2031                 :             : 
    2032                 :     3689580 :     default:
    2033                 :     3689580 :       return fold_const_call_1 (fn, type, arg0, arg1, arg2);
    2034                 :             :     }
    2035                 :             : }
        

Generated by: LCOV version 2.1-beta

LCOV profile is generated on x86_64 machine using following configure options: configure --disable-bootstrap --enable-coverage=opt --enable-languages=c,c++,fortran,go,jit,lto,rust,m2 --enable-host-shared. GCC test suite is run with the built compiler.