LCOV - code coverage report
Current view: top level - gcc - tree-ssa-ccp.cc (source / functions) Coverage Total Hit
Test: gcc.info Lines: 94.0 % 2262 2126
Test Date: 2024-03-23 14:05:01 Functions: 98.4 % 61 60
Legend: Lines: hit not hit | Branches: + taken - not taken # not executed Branches: - 0 0

             Branch data     Line data    Source code
       1                 :             : /* Conditional constant propagation pass for the GNU compiler.
       2                 :             :    Copyright (C) 2000-2024 Free Software Foundation, Inc.
       3                 :             :    Adapted from original RTL SSA-CCP by Daniel Berlin <dberlin@dberlin.org>
       4                 :             :    Adapted to GIMPLE trees by Diego Novillo <dnovillo@redhat.com>
       5                 :             : 
       6                 :             : This file is part of GCC.
       7                 :             : 
       8                 :             : GCC is free software; you can redistribute it and/or modify it
       9                 :             : under the terms of the GNU General Public License as published by the
      10                 :             : Free Software Foundation; either version 3, or (at your option) any
      11                 :             : later version.
      12                 :             : 
      13                 :             : GCC is distributed in the hope that it will be useful, but WITHOUT
      14                 :             : ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or
      15                 :             : FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
      16                 :             : for more details.
      17                 :             : 
      18                 :             : You should have received a copy of the GNU General Public License
      19                 :             : along with GCC; see the file COPYING3.  If not see
      20                 :             : <http://www.gnu.org/licenses/>.  */
      21                 :             : 
      22                 :             : /* Conditional constant propagation (CCP) is based on the SSA
      23                 :             :    propagation engine (tree-ssa-propagate.cc).  Constant assignments of
      24                 :             :    the form VAR = CST are propagated from the assignments into uses of
      25                 :             :    VAR, which in turn may generate new constants.  The simulation uses
      26                 :             :    a four level lattice to keep track of constant values associated
      27                 :             :    with SSA names.  Given an SSA name V_i, it may take one of the
      28                 :             :    following values:
      29                 :             : 
      30                 :             :         UNINITIALIZED   ->  the initial state of the value.  This value
      31                 :             :                             is replaced with a correct initial value
      32                 :             :                             the first time the value is used, so the
      33                 :             :                             rest of the pass does not need to care about
      34                 :             :                             it.  Using this value simplifies initialization
      35                 :             :                             of the pass, and prevents us from needlessly
      36                 :             :                             scanning statements that are never reached.
      37                 :             : 
      38                 :             :         UNDEFINED       ->  V_i is a local variable whose definition
      39                 :             :                             has not been processed yet.  Therefore we
      40                 :             :                             don't yet know if its value is a constant
      41                 :             :                             or not.
      42                 :             : 
      43                 :             :         CONSTANT        ->  V_i has been found to hold a constant
      44                 :             :                             value C.
      45                 :             : 
      46                 :             :         VARYING         ->  V_i cannot take a constant value, or if it
      47                 :             :                             does, it is not possible to determine it
      48                 :             :                             at compile time.
      49                 :             : 
      50                 :             :    The core of SSA-CCP is in ccp_visit_stmt and ccp_visit_phi_node:
      51                 :             : 
      52                 :             :    1- In ccp_visit_stmt, we are interested in assignments whose RHS
      53                 :             :       evaluates into a constant and conditional jumps whose predicate
      54                 :             :       evaluates into a boolean true or false.  When an assignment of
      55                 :             :       the form V_i = CONST is found, V_i's lattice value is set to
      56                 :             :       CONSTANT and CONST is associated with it.  This causes the
      57                 :             :       propagation engine to add all the SSA edges coming out the
      58                 :             :       assignment into the worklists, so that statements that use V_i
      59                 :             :       can be visited.
      60                 :             : 
      61                 :             :       If the statement is a conditional with a constant predicate, we
      62                 :             :       mark the outgoing edges as executable or not executable
      63                 :             :       depending on the predicate's value.  This is then used when
      64                 :             :       visiting PHI nodes to know when a PHI argument can be ignored.
      65                 :             : 
      66                 :             : 
      67                 :             :    2- In ccp_visit_phi_node, if all the PHI arguments evaluate to the
      68                 :             :       same constant C, then the LHS of the PHI is set to C.  This
      69                 :             :       evaluation is known as the "meet operation".  Since one of the
      70                 :             :       goals of this evaluation is to optimistically return constant
      71                 :             :       values as often as possible, it uses two main short cuts:
      72                 :             : 
      73                 :             :       - If an argument is flowing in through a non-executable edge, it
      74                 :             :         is ignored.  This is useful in cases like this:
      75                 :             : 
      76                 :             :                         if (PRED)
      77                 :             :                           a_9 = 3;
      78                 :             :                         else
      79                 :             :                           a_10 = 100;
      80                 :             :                         a_11 = PHI (a_9, a_10)
      81                 :             : 
      82                 :             :         If PRED is known to always evaluate to false, then we can
      83                 :             :         assume that a_11 will always take its value from a_10, meaning
      84                 :             :         that instead of consider it VARYING (a_9 and a_10 have
      85                 :             :         different values), we can consider it CONSTANT 100.
      86                 :             : 
      87                 :             :       - If an argument has an UNDEFINED value, then it does not affect
      88                 :             :         the outcome of the meet operation.  If a variable V_i has an
      89                 :             :         UNDEFINED value, it means that either its defining statement
      90                 :             :         hasn't been visited yet or V_i has no defining statement, in
      91                 :             :         which case the original symbol 'V' is being used
      92                 :             :         uninitialized.  Since 'V' is a local variable, the compiler
      93                 :             :         may assume any initial value for it.
      94                 :             : 
      95                 :             : 
      96                 :             :    After propagation, every variable V_i that ends up with a lattice
      97                 :             :    value of CONSTANT will have the associated constant value in the
      98                 :             :    array CONST_VAL[i].VALUE.  That is fed into substitute_and_fold for
      99                 :             :    final substitution and folding.
     100                 :             : 
     101                 :             :    This algorithm uses wide-ints at the max precision of the target.
     102                 :             :    This means that, with one uninteresting exception, variables with
     103                 :             :    UNSIGNED types never go to VARYING because the bits above the
     104                 :             :    precision of the type of the variable are always zero.  The
     105                 :             :    uninteresting case is a variable of UNSIGNED type that has the
     106                 :             :    maximum precision of the target.  Such variables can go to VARYING,
     107                 :             :    but this causes no loss of infomation since these variables will
     108                 :             :    never be extended.
     109                 :             : 
     110                 :             :    References:
     111                 :             : 
     112                 :             :      Constant propagation with conditional branches,
     113                 :             :      Wegman and Zadeck, ACM TOPLAS 13(2):181-210.
     114                 :             : 
     115                 :             :      Building an Optimizing Compiler,
     116                 :             :      Robert Morgan, Butterworth-Heinemann, 1998, Section 8.9.
     117                 :             : 
     118                 :             :      Advanced Compiler Design and Implementation,
     119                 :             :      Steven Muchnick, Morgan Kaufmann, 1997, Section 12.6  */
     120                 :             : 
     121                 :             : #include "config.h"
     122                 :             : #include "system.h"
     123                 :             : #include "coretypes.h"
     124                 :             : #include "backend.h"
     125                 :             : #include "target.h"
     126                 :             : #include "tree.h"
     127                 :             : #include "gimple.h"
     128                 :             : #include "tree-pass.h"
     129                 :             : #include "ssa.h"
     130                 :             : #include "gimple-pretty-print.h"
     131                 :             : #include "fold-const.h"
     132                 :             : #include "gimple-iterator.h"
     133                 :             : #include "gimple-fold.h"
     134                 :             : #include "tree-eh.h"
     135                 :             : #include "gimplify.h"
     136                 :             : #include "tree-cfg.h"
     137                 :             : #include "tree-ssa-propagate.h"
     138                 :             : #include "dbgcnt.h"
     139                 :             : #include "builtins.h"
     140                 :             : #include "cfgloop.h"
     141                 :             : #include "stor-layout.h"
     142                 :             : #include "optabs-query.h"
     143                 :             : #include "tree-ssa-ccp.h"
     144                 :             : #include "tree-dfa.h"
     145                 :             : #include "diagnostic-core.h"
     146                 :             : #include "stringpool.h"
     147                 :             : #include "attribs.h"
     148                 :             : #include "tree-vector-builder.h"
     149                 :             : #include "cgraph.h"
     150                 :             : #include "alloc-pool.h"
     151                 :             : #include "symbol-summary.h"
     152                 :             : #include "ipa-utils.h"
     153                 :             : #include "sreal.h"
     154                 :             : #include "ipa-cp.h"
     155                 :             : #include "ipa-prop.h"
     156                 :             : #include "internal-fn.h"
     157                 :             : 
     158                 :             : /* Possible lattice values.  */
     159                 :             : typedef enum
     160                 :             : {
     161                 :             :   UNINITIALIZED,
     162                 :             :   UNDEFINED,
     163                 :             :   CONSTANT,
     164                 :             :   VARYING
     165                 :             : } ccp_lattice_t;
     166                 :             : 
     167                 :   664354243 : class ccp_prop_value_t {
     168                 :             : public:
     169                 :             :     /* Lattice value.  */
     170                 :             :     ccp_lattice_t lattice_val;
     171                 :             : 
     172                 :             :     /* Propagated value.  */
     173                 :             :     tree value;
     174                 :             : 
     175                 :             :     /* Mask that applies to the propagated value during CCP.  For X
     176                 :             :        with a CONSTANT lattice value X & ~mask == value & ~mask.  The
     177                 :             :        zero bits in the mask cover constant values.  The ones mean no
     178                 :             :        information.  */
     179                 :             :     widest_int mask;
     180                 :             : };
     181                 :             : 
     182                 :     5103437 : class ccp_propagate : public ssa_propagation_engine
     183                 :             : {
     184                 :             :  public:
     185                 :             :   enum ssa_prop_result visit_stmt (gimple *, edge *, tree *) final override;
     186                 :             :   enum ssa_prop_result visit_phi (gphi *) final override;
     187                 :             : };
     188                 :             : 
     189                 :             : /* Array of propagated constant values.  After propagation,
     190                 :             :    CONST_VAL[I].VALUE holds the constant value for SSA_NAME(I).  If
     191                 :             :    the constant is held in an SSA name representing a memory store
     192                 :             :    (i.e., a VDEF), CONST_VAL[I].MEM_REF will contain the actual
     193                 :             :    memory reference used to store (i.e., the LHS of the assignment
     194                 :             :    doing the store).  */
     195                 :             : static ccp_prop_value_t *const_val;
     196                 :             : static unsigned n_const_val;
     197                 :             : 
     198                 :             : static void canonicalize_value (ccp_prop_value_t *);
     199                 :             : static void ccp_lattice_meet (ccp_prop_value_t *, ccp_prop_value_t *);
     200                 :             : 
     201                 :             : /* Dump constant propagation value VAL to file OUTF prefixed by PREFIX.  */
     202                 :             : 
     203                 :             : static void
     204                 :          62 : dump_lattice_value (FILE *outf, const char *prefix, ccp_prop_value_t val)
     205                 :             : {
     206                 :          62 :   switch (val.lattice_val)
     207                 :             :     {
     208                 :           0 :     case UNINITIALIZED:
     209                 :           0 :       fprintf (outf, "%sUNINITIALIZED", prefix);
     210                 :           0 :       break;
     211                 :           0 :     case UNDEFINED:
     212                 :           0 :       fprintf (outf, "%sUNDEFINED", prefix);
     213                 :           0 :       break;
     214                 :          16 :     case VARYING:
     215                 :          16 :       fprintf (outf, "%sVARYING", prefix);
     216                 :          16 :       break;
     217                 :          46 :     case CONSTANT:
     218                 :          46 :       if (TREE_CODE (val.value) != INTEGER_CST
     219                 :          46 :           || val.mask == 0)
     220                 :             :         {
     221                 :          46 :           fprintf (outf, "%sCONSTANT ", prefix);
     222                 :          46 :           print_generic_expr (outf, val.value, dump_flags);
     223                 :             :         }
     224                 :             :       else
     225                 :             :         {
     226                 :           0 :           widest_int cval = wi::bit_and_not (wi::to_widest (val.value),
     227                 :           0 :                                              val.mask);
     228                 :           0 :           fprintf (outf, "%sCONSTANT ", prefix);
     229                 :           0 :           print_hex (cval, outf);
     230                 :           0 :           fprintf (outf, " (");
     231                 :           0 :           print_hex (val.mask, outf);
     232                 :           0 :           fprintf (outf, ")");
     233                 :           0 :         }
     234                 :             :       break;
     235                 :           0 :     default:
     236                 :           0 :       gcc_unreachable ();
     237                 :             :     }
     238                 :          62 : }
     239                 :             : 
     240                 :             : 
     241                 :             : /* Print lattice value VAL to stderr.  */
     242                 :             : 
     243                 :             : void debug_lattice_value (ccp_prop_value_t val);
     244                 :             : 
     245                 :             : DEBUG_FUNCTION void
     246                 :           0 : debug_lattice_value (ccp_prop_value_t val)
     247                 :             : {
     248                 :           0 :   dump_lattice_value (stderr, "", val);
     249                 :           0 :   fprintf (stderr, "\n");
     250                 :           0 : }
     251                 :             : 
     252                 :             : /* Extend NONZERO_BITS to a full mask, based on sgn.  */ 
     253                 :             : 
     254                 :             : static widest_int
     255                 :    44852252 : extend_mask (const wide_int &nonzero_bits, signop sgn)
     256                 :             : {
     257                 :    44852252 :   return widest_int::from (nonzero_bits, sgn); 
     258                 :             : }
     259                 :             : 
     260                 :             : /* Compute a default value for variable VAR and store it in the
     261                 :             :    CONST_VAL array.  The following rules are used to get default
     262                 :             :    values:
     263                 :             : 
     264                 :             :    1- Global and static variables that are declared constant are
     265                 :             :       considered CONSTANT.
     266                 :             : 
     267                 :             :    2- Any other value is considered UNDEFINED.  This is useful when
     268                 :             :       considering PHI nodes.  PHI arguments that are undefined do not
     269                 :             :       change the constant value of the PHI node, which allows for more
     270                 :             :       constants to be propagated.
     271                 :             : 
     272                 :             :    3- Variables defined by statements other than assignments and PHI
     273                 :             :       nodes are considered VARYING.
     274                 :             : 
     275                 :             :    4- Initial values of variables that are not GIMPLE registers are
     276                 :             :       considered VARYING.  */
     277                 :             : 
     278                 :             : static ccp_prop_value_t
     279                 :     9385197 : get_default_value (tree var)
     280                 :             : {
     281                 :     9385197 :   ccp_prop_value_t val = { UNINITIALIZED, NULL_TREE, 0 };
     282                 :     9385197 :   gimple *stmt;
     283                 :             : 
     284                 :     9385197 :   stmt = SSA_NAME_DEF_STMT (var);
     285                 :             : 
     286                 :     9385197 :   if (gimple_nop_p (stmt))
     287                 :             :     {
     288                 :             :       /* Variables defined by an empty statement are those used
     289                 :             :          before being initialized.  If VAR is a local variable, we
     290                 :             :          can assume initially that it is UNDEFINED, otherwise we must
     291                 :             :          consider it VARYING.  */
     292                 :     8843533 :       if (!virtual_operand_p (var)
     293                 :     8843533 :           && SSA_NAME_VAR (var)
     294                 :    17687038 :           && VAR_P (SSA_NAME_VAR (var)))
     295                 :     1425944 :         val.lattice_val = UNDEFINED;
     296                 :             :       else
     297                 :             :         {
     298                 :     7417589 :           val.lattice_val = VARYING;
     299                 :     7417589 :           val.mask = -1;
     300                 :     7417589 :           if (flag_tree_bit_ccp)
     301                 :             :             {
     302                 :     7409563 :               wide_int nonzero_bits = get_nonzero_bits (var);
     303                 :     7409563 :               tree value;
     304                 :     7409563 :               widest_int mask;
     305                 :             : 
     306                 :     7409563 :               if (SSA_NAME_VAR (var)
     307                 :     7409535 :                   && TREE_CODE (SSA_NAME_VAR (var)) == PARM_DECL
     308                 :     7358543 :                   && ipcp_get_parm_bits (SSA_NAME_VAR (var), &value, &mask))
     309                 :             :                 {
     310                 :       76231 :                   val.lattice_val = CONSTANT;
     311                 :       76231 :                   val.value = value;
     312                 :       76231 :                   widest_int ipa_value = wi::to_widest (value);
     313                 :             :                   /* Unknown bits from IPA CP must be equal to zero.  */
     314                 :       76231 :                   gcc_assert (wi::bit_and (ipa_value, mask) == 0);
     315                 :       76231 :                   val.mask = mask;
     316                 :       76231 :                   if (nonzero_bits != -1)
     317                 :       61099 :                     val.mask &= extend_mask (nonzero_bits,
     318                 :       61099 :                                              TYPE_SIGN (TREE_TYPE (var)));
     319                 :       76231 :                 }
     320                 :     7333332 :               else if (nonzero_bits != -1)
     321                 :             :                 {
     322                 :         937 :                   val.lattice_val = CONSTANT;
     323                 :         937 :                   val.value = build_zero_cst (TREE_TYPE (var));
     324                 :         937 :                   val.mask = extend_mask (nonzero_bits,
     325                 :         937 :                                           TYPE_SIGN (TREE_TYPE (var)));
     326                 :             :                 }
     327                 :     7409611 :             }
     328                 :             :         }
     329                 :             :     }
     330                 :      541664 :   else if (is_gimple_assign (stmt))
     331                 :             :     {
     332                 :      460926 :       tree cst;
     333                 :      460926 :       if (gimple_assign_single_p (stmt)
     334                 :      213570 :           && DECL_P (gimple_assign_rhs1 (stmt))
     335                 :      476302 :           && (cst = get_symbol_constant_value (gimple_assign_rhs1 (stmt))))
     336                 :             :         {
     337                 :          92 :           val.lattice_val = CONSTANT;
     338                 :          92 :           val.value = cst;
     339                 :             :         }
     340                 :             :       else
     341                 :             :         {
     342                 :             :           /* Any other variable defined by an assignment is considered
     343                 :             :              UNDEFINED.  */
     344                 :      460834 :           val.lattice_val = UNDEFINED;
     345                 :             :         }
     346                 :             :     }
     347                 :       80738 :   else if ((is_gimple_call (stmt)
     348                 :       17760 :             && gimple_call_lhs (stmt) != NULL_TREE)
     349                 :       80738 :            || gimple_code (stmt) == GIMPLE_PHI)
     350                 :             :     {
     351                 :             :       /* A variable defined by a call or a PHI node is considered
     352                 :             :          UNDEFINED.  */
     353                 :       80672 :       val.lattice_val = UNDEFINED;
     354                 :             :     }
     355                 :             :   else
     356                 :             :     {
     357                 :             :       /* Otherwise, VAR will never take on a constant value.  */
     358                 :          66 :       val.lattice_val = VARYING;
     359                 :          66 :       val.mask = -1;
     360                 :             :     }
     361                 :             : 
     362                 :     9385197 :   return val;
     363                 :             : }
     364                 :             : 
     365                 :             : 
     366                 :             : /* Get the constant value associated with variable VAR.  */
     367                 :             : 
     368                 :             : static inline ccp_prop_value_t *
     369                 :  2318603665 : get_value (tree var)
     370                 :             : {
     371                 :  2318603665 :   ccp_prop_value_t *val;
     372                 :             : 
     373                 :  2318603665 :   if (const_val == NULL
     374                 :  4637207330 :       || SSA_NAME_VERSION (var) >= n_const_val)
     375                 :             :     return NULL;
     376                 :             : 
     377                 :  2318598455 :   val = &const_val[SSA_NAME_VERSION (var)];
     378                 :  2318598455 :   if (val->lattice_val == UNINITIALIZED)
     379                 :     9385197 :     *val = get_default_value (var);
     380                 :             : 
     381                 :  2318598455 :   canonicalize_value (val);
     382                 :             : 
     383                 :  2318598455 :   return val;
     384                 :             : }
     385                 :             : 
     386                 :             : /* Return the constant tree value associated with VAR.  */
     387                 :             : 
     388                 :             : static inline tree
     389                 :  1746859769 : get_constant_value (tree var)
     390                 :             : {
     391                 :  1746859769 :   ccp_prop_value_t *val;
     392                 :  1746859769 :   if (TREE_CODE (var) != SSA_NAME)
     393                 :             :     {
     394                 :        1050 :       if (is_gimple_min_invariant (var))
     395                 :             :         return var;
     396                 :             :       return NULL_TREE;
     397                 :             :     }
     398                 :  1746858719 :   val = get_value (var);
     399                 :  1746858719 :   if (val
     400                 :  1746853869 :       && val->lattice_val == CONSTANT
     401                 :  2086364845 :       && (TREE_CODE (val->value) != INTEGER_CST
     402                 :  1712308386 :           || val->mask == 0))
     403                 :    52272771 :     return val->value;
     404                 :             :   return NULL_TREE;
     405                 :             : }
     406                 :             : 
     407                 :             : /* Sets the value associated with VAR to VARYING.  */
     408                 :             : 
     409                 :             : static inline void
     410                 :    53688153 : set_value_varying (tree var)
     411                 :             : {
     412                 :    53688153 :   ccp_prop_value_t *val = &const_val[SSA_NAME_VERSION (var)];
     413                 :             : 
     414                 :    53688153 :   val->lattice_val = VARYING;
     415                 :    53688153 :   val->value = NULL_TREE;
     416                 :    53688153 :   val->mask = -1;
     417                 :    53688153 : }
     418                 :             : 
     419                 :             : /* For integer constants, make sure to drop TREE_OVERFLOW.  */
     420                 :             : 
     421                 :             : static void
     422                 :  2673520321 : canonicalize_value (ccp_prop_value_t *val)
     423                 :             : {
     424                 :  2673520321 :   if (val->lattice_val != CONSTANT)
     425                 :             :     return;
     426                 :             : 
     427                 :   991943282 :   if (TREE_OVERFLOW_P (val->value))
     428                 :          42 :     val->value = drop_tree_overflow (val->value);
     429                 :             : }
     430                 :             : 
     431                 :             : /* Return whether the lattice transition is valid.  */
     432                 :             : 
     433                 :             : static bool
     434                 :   227350759 : valid_lattice_transition (ccp_prop_value_t old_val, ccp_prop_value_t new_val)
     435                 :             : {
     436                 :             :   /* Lattice transitions must always be monotonically increasing in
     437                 :             :      value.  */
     438                 :   227350759 :   if (old_val.lattice_val < new_val.lattice_val)
     439                 :             :     return true;
     440                 :             : 
     441                 :   140023790 :   if (old_val.lattice_val != new_val.lattice_val)
     442                 :             :     return false;
     443                 :             : 
     444                 :   140023790 :   if (!old_val.value && !new_val.value)
     445                 :             :     return true;
     446                 :             : 
     447                 :             :   /* Now both lattice values are CONSTANT.  */
     448                 :             : 
     449                 :             :   /* Allow arbitrary copy changes as we might look through PHI <a_1, ...>
     450                 :             :      when only a single copy edge is executable.  */
     451                 :   139995256 :   if (TREE_CODE (old_val.value) == SSA_NAME
     452                 :       29907 :       && TREE_CODE (new_val.value) == SSA_NAME)
     453                 :             :     return true;
     454                 :             : 
     455                 :             :   /* Allow transitioning from a constant to a copy.  */
     456                 :   139965349 :   if (is_gimple_min_invariant (old_val.value)
     457                 :   139965349 :       && TREE_CODE (new_val.value) == SSA_NAME)
     458                 :             :     return true;
     459                 :             : 
     460                 :             :   /* Allow transitioning from PHI <&x, not executable> == &x
     461                 :             :      to PHI <&x, &y> == common alignment.  */
     462                 :   139781470 :   if (TREE_CODE (old_val.value) != INTEGER_CST
     463                 :      374469 :       && TREE_CODE (new_val.value) == INTEGER_CST)
     464                 :             :     return true;
     465                 :             : 
     466                 :             :   /* Bit-lattices have to agree in the still valid bits.  */
     467                 :   139426753 :   if (TREE_CODE (old_val.value) == INTEGER_CST
     468                 :   139407001 :       && TREE_CODE (new_val.value) == INTEGER_CST)
     469                 :   278814002 :     return (wi::bit_and_not (wi::to_widest (old_val.value), new_val.mask)
     470                 :   418221003 :             == wi::bit_and_not (wi::to_widest (new_val.value), new_val.mask));
     471                 :             : 
     472                 :             :   /* Otherwise constant values have to agree.  */
     473                 :       19752 :   if (operand_equal_p (old_val.value, new_val.value, 0))
     474                 :             :     return true;
     475                 :             : 
     476                 :             :   /* At least the kinds and types should agree now.  */
     477                 :           0 :   if (TREE_CODE (old_val.value) != TREE_CODE (new_val.value)
     478                 :           0 :       || !types_compatible_p (TREE_TYPE (old_val.value),
     479                 :           0 :                               TREE_TYPE (new_val.value)))
     480                 :           0 :     return false;
     481                 :             : 
     482                 :             :   /* For floats and !HONOR_NANS allow transitions from (partial) NaN
     483                 :             :      to non-NaN.  */
     484                 :           0 :   tree type = TREE_TYPE (new_val.value);
     485                 :           0 :   if (SCALAR_FLOAT_TYPE_P (type)
     486                 :           0 :       && !HONOR_NANS (type))
     487                 :             :     {
     488                 :           0 :       if (REAL_VALUE_ISNAN (TREE_REAL_CST (old_val.value)))
     489                 :             :         return true;
     490                 :             :     }
     491                 :           0 :   else if (VECTOR_FLOAT_TYPE_P (type)
     492                 :           0 :            && !HONOR_NANS (type))
     493                 :             :     {
     494                 :           0 :       unsigned int count
     495                 :           0 :         = tree_vector_builder::binary_encoded_nelts (old_val.value,
     496                 :             :                                                      new_val.value);
     497                 :           0 :       for (unsigned int i = 0; i < count; ++i)
     498                 :           0 :         if (!REAL_VALUE_ISNAN
     499                 :             :                (TREE_REAL_CST (VECTOR_CST_ENCODED_ELT (old_val.value, i)))
     500                 :           0 :             && !operand_equal_p (VECTOR_CST_ENCODED_ELT (old_val.value, i),
     501                 :           0 :                                  VECTOR_CST_ENCODED_ELT (new_val.value, i), 0))
     502                 :             :           return false;
     503                 :             :       return true;
     504                 :             :     }
     505                 :           0 :   else if (COMPLEX_FLOAT_TYPE_P (type)
     506                 :           0 :            && !HONOR_NANS (type))
     507                 :             :     {
     508                 :           0 :       if (!REAL_VALUE_ISNAN (TREE_REAL_CST (TREE_REALPART (old_val.value)))
     509                 :           0 :           && !operand_equal_p (TREE_REALPART (old_val.value),
     510                 :           0 :                                TREE_REALPART (new_val.value), 0))
     511                 :             :         return false;
     512                 :           0 :       if (!REAL_VALUE_ISNAN (TREE_REAL_CST (TREE_IMAGPART (old_val.value)))
     513                 :           0 :           && !operand_equal_p (TREE_IMAGPART (old_val.value),
     514                 :           0 :                                TREE_IMAGPART (new_val.value), 0))
     515                 :             :         return false;
     516                 :           0 :       return true;
     517                 :             :     }
     518                 :             :   return false;
     519                 :             : }
     520                 :             : 
     521                 :             : /* Set the value for variable VAR to NEW_VAL.  Return true if the new
     522                 :             :    value is different from VAR's previous value.  */
     523                 :             : 
     524                 :             : static bool
     525                 :   227350759 : set_lattice_value (tree var, ccp_prop_value_t *new_val)
     526                 :             : {
     527                 :             :   /* We can deal with old UNINITIALIZED values just fine here.  */
     528                 :   227350759 :   ccp_prop_value_t *old_val = &const_val[SSA_NAME_VERSION (var)];
     529                 :             : 
     530                 :   227350759 :   canonicalize_value (new_val);
     531                 :             : 
     532                 :             :   /* We have to be careful to not go up the bitwise lattice
     533                 :             :      represented by the mask.  Instead of dropping to VARYING
     534                 :             :      use the meet operator to retain a conservative value.
     535                 :             :      Missed optimizations like PR65851 makes this necessary.
     536                 :             :      It also ensures we converge to a stable lattice solution.  */
     537                 :   227350759 :   if (old_val->lattice_val != UNINITIALIZED
     538                 :             :       /* But avoid using meet for constant -> copy transitions.  */
     539                 :   145346435 :       && !(old_val->lattice_val == CONSTANT
     540                 :   145278207 :            && CONSTANT_CLASS_P (old_val->value)
     541                 :   142846230 :            && new_val->lattice_val == CONSTANT
     542                 :   139596675 :            && TREE_CODE (new_val->value) == SSA_NAME))
     543                 :   145162556 :     ccp_lattice_meet (new_val, old_val);
     544                 :             : 
     545                 :   454701518 :   gcc_checking_assert (valid_lattice_transition (*old_val, *new_val));
     546                 :             : 
     547                 :             :   /* If *OLD_VAL and NEW_VAL are the same, return false to inform the
     548                 :             :      caller that this was a non-transition.  */
     549                 :   454701518 :   if (old_val->lattice_val != new_val->lattice_val
     550                 :   227350759 :       || (new_val->lattice_val == CONSTANT
     551                 :   139995256 :           && (TREE_CODE (new_val->value) != TREE_CODE (old_val->value)
     552                 :   139456660 :               || (TREE_CODE (new_val->value) == INTEGER_CST
     553                 :   139407001 :                   && (new_val->mask != old_val->mask
     554                 :   252614155 :                       || (wi::bit_and_not (wi::to_widest (old_val->value),
     555                 :             :                                            new_val->mask)
     556                 :   265245853 :                           != wi::bit_and_not (wi::to_widest (new_val->value),
     557                 :             :                                               new_val->mask))))
     558                 :    12681357 :               || (TREE_CODE (new_val->value) != INTEGER_CST
     559                 :       49659 :                   && !operand_equal_p (new_val->value, old_val->value, 0)))))
     560                 :             :     {
     561                 :             :       /* ???  We would like to delay creation of INTEGER_CSTs from
     562                 :             :          partially constants here.  */
     563                 :             : 
     564                 :   214640868 :       if (dump_file && (dump_flags & TDF_DETAILS))
     565                 :             :         {
     566                 :          54 :           dump_lattice_value (dump_file, "Lattice value changed to ", *new_val);
     567                 :          54 :           fprintf (dump_file, ".  Adding SSA edges to worklist.\n");
     568                 :             :         }
     569                 :             : 
     570                 :   214640868 :       *old_val = *new_val;
     571                 :             : 
     572                 :   214640868 :       gcc_assert (new_val->lattice_val != UNINITIALIZED);
     573                 :             :       return true;
     574                 :             :     }
     575                 :             : 
     576                 :             :   return false;
     577                 :             : }
     578                 :             : 
     579                 :             : static ccp_prop_value_t get_value_for_expr (tree, bool);
     580                 :             : static ccp_prop_value_t bit_value_binop (enum tree_code, tree, tree, tree);
     581                 :             : void bit_value_binop (enum tree_code, signop, int, widest_int *, widest_int *,
     582                 :             :                       signop, int, const widest_int &, const widest_int &,
     583                 :             :                       signop, int, const widest_int &, const widest_int &);
     584                 :             : 
     585                 :             : /* Return a widest_int that can be used for bitwise simplifications
     586                 :             :    from VAL.  */
     587                 :             : 
     588                 :             : static widest_int
     589                 :   271432313 : value_to_wide_int (ccp_prop_value_t val)
     590                 :             : {
     591                 :   271432313 :   if (val.value
     592                 :   214880130 :       && TREE_CODE (val.value) == INTEGER_CST)
     593                 :   214880130 :     return wi::to_widest (val.value);
     594                 :             : 
     595                 :    56552183 :   return 0;
     596                 :             : }
     597                 :             : 
     598                 :             : /* Return the value for the address expression EXPR based on alignment
     599                 :             :    information.  */
     600                 :             : 
     601                 :             : static ccp_prop_value_t
     602                 :     7671472 : get_value_from_alignment (tree expr)
     603                 :             : {
     604                 :     7671472 :   tree type = TREE_TYPE (expr);
     605                 :     7671472 :   ccp_prop_value_t val;
     606                 :     7671472 :   unsigned HOST_WIDE_INT bitpos;
     607                 :     7671472 :   unsigned int align;
     608                 :             : 
     609                 :     7671472 :   gcc_assert (TREE_CODE (expr) == ADDR_EXPR);
     610                 :             : 
     611                 :     7671472 :   get_pointer_alignment_1 (expr, &align, &bitpos);
     612                 :     7671472 :   val.mask = wi::bit_and_not
     613                 :    15342944 :     (POINTER_TYPE_P (type) || TYPE_UNSIGNED (type)
     614                 :     7671472 :      ? wi::mask <widest_int> (TYPE_PRECISION (type), false)
     615                 :           0 :      : -1,
     616                 :    15342944 :      align / BITS_PER_UNIT - 1);
     617                 :     7671472 :   val.lattice_val
     618                 :    12987531 :     = wi::sext (val.mask, TYPE_PRECISION (type)) == -1 ? VARYING : CONSTANT;
     619                 :     7671472 :   if (val.lattice_val == CONSTANT)
     620                 :     5316059 :     val.value = build_int_cstu (type, bitpos / BITS_PER_UNIT);
     621                 :             :   else
     622                 :     2355413 :     val.value = NULL_TREE;
     623                 :             : 
     624                 :     7671472 :   return val;
     625                 :             : }
     626                 :             : 
     627                 :             : /* Return the value for the tree operand EXPR.  If FOR_BITS_P is true
     628                 :             :    return constant bits extracted from alignment information for
     629                 :             :    invariant addresses.  */
     630                 :             : 
     631                 :             : static ccp_prop_value_t
     632                 :   416708665 : get_value_for_expr (tree expr, bool for_bits_p)
     633                 :             : {
     634                 :   416708665 :   ccp_prop_value_t val;
     635                 :             : 
     636                 :   416708665 :   if (TREE_CODE (expr) == SSA_NAME)
     637                 :             :     {
     638                 :   258994251 :       ccp_prop_value_t *val_ = get_value (expr);
     639                 :   258994251 :       if (val_)
     640                 :   258994071 :         val = *val_;
     641                 :             :       else
     642                 :             :         {
     643                 :         180 :           val.lattice_val = VARYING;
     644                 :         180 :           val.value = NULL_TREE;
     645                 :         180 :           val.mask = -1;
     646                 :             :         }
     647                 :   258994251 :       if (for_bits_p
     648                 :   178261778 :           && val.lattice_val == CONSTANT)
     649                 :             :         {
     650                 :   122083900 :           if (TREE_CODE (val.value) == ADDR_EXPR)
     651                 :      160791 :             val = get_value_from_alignment (val.value);
     652                 :   121923109 :           else if (TREE_CODE (val.value) != INTEGER_CST)
     653                 :             :             {
     654                 :     6713217 :               val.lattice_val = VARYING;
     655                 :     6713217 :               val.value = NULL_TREE;
     656                 :     6713217 :               val.mask = -1;
     657                 :             :             }
     658                 :             :         }
     659                 :             :       /* Fall back to a copy value.  */
     660                 :    80732473 :       if (!for_bits_p
     661                 :    80732473 :           && val.lattice_val == VARYING
     662                 :     8237836 :           && !SSA_NAME_OCCURS_IN_ABNORMAL_PHI (expr))
     663                 :             :         {
     664                 :     8233591 :           val.lattice_val = CONSTANT;
     665                 :     8233591 :           val.value = expr;
     666                 :     8233591 :           val.mask = -1;
     667                 :             :         }
     668                 :             :     }
     669                 :   157714414 :   else if (is_gimple_min_invariant (expr)
     670                 :   157714414 :            && (!for_bits_p || TREE_CODE (expr) == INTEGER_CST))
     671                 :             :     {
     672                 :   127571107 :       val.lattice_val = CONSTANT;
     673                 :   127571107 :       val.value = expr;
     674                 :   127571107 :       val.mask = 0;
     675                 :   127571107 :       canonicalize_value (&val);
     676                 :             :     }
     677                 :    30143307 :   else if (TREE_CODE (expr) == ADDR_EXPR)
     678                 :     7510681 :     val = get_value_from_alignment (expr);
     679                 :             :   else
     680                 :             :     {
     681                 :    22632626 :       val.lattice_val = VARYING;
     682                 :    22632626 :       val.mask = -1;
     683                 :    22632626 :       val.value = NULL_TREE;
     684                 :             :     }
     685                 :             : 
     686                 :   416708665 :   if (val.lattice_val == VARYING
     687                 :    87770582 :       && INTEGRAL_TYPE_P (TREE_TYPE (expr))
     688                 :   477104841 :       && TYPE_UNSIGNED (TREE_TYPE (expr)))
     689                 :    29662914 :     val.mask = wi::zext (val.mask, TYPE_PRECISION (TREE_TYPE (expr)));
     690                 :             : 
     691                 :   416708665 :   return val;
     692                 :             : }
     693                 :             : 
     694                 :             : /* Return the likely CCP lattice value for STMT.
     695                 :             : 
     696                 :             :    If STMT has no operands, then return CONSTANT.
     697                 :             : 
     698                 :             :    Else if undefinedness of operands of STMT cause its value to be
     699                 :             :    undefined, then return UNDEFINED.
     700                 :             : 
     701                 :             :    Else if any operands of STMT are constants, then return CONSTANT.
     702                 :             : 
     703                 :             :    Else return VARYING.  */
     704                 :             : 
     705                 :             : static ccp_lattice_t
     706                 :   206991173 : likely_value (gimple *stmt)
     707                 :             : {
     708                 :   206991173 :   bool has_constant_operand, has_undefined_operand, all_undefined_operands;
     709                 :   206991173 :   bool has_nsa_operand;
     710                 :   206991173 :   tree use;
     711                 :   206991173 :   ssa_op_iter iter;
     712                 :   206991173 :   unsigned i;
     713                 :             : 
     714                 :   206991173 :   enum gimple_code code = gimple_code (stmt);
     715                 :             : 
     716                 :             :   /* This function appears to be called only for assignments, calls,
     717                 :             :      conditionals, and switches, due to the logic in visit_stmt.  */
     718                 :   206991173 :   gcc_assert (code == GIMPLE_ASSIGN
     719                 :             :               || code == GIMPLE_CALL
     720                 :             :               || code == GIMPLE_COND
     721                 :             :               || code == GIMPLE_SWITCH);
     722                 :             : 
     723                 :             :   /* If the statement has volatile operands, it won't fold to a
     724                 :             :      constant value.  */
     725                 :   377628190 :   if (gimple_has_volatile_ops (stmt))
     726                 :             :     return VARYING;
     727                 :             : 
     728                 :             :   /* .DEFERRED_INIT produces undefined.  */
     729                 :   206991123 :   if (gimple_call_internal_p (stmt, IFN_DEFERRED_INIT))
     730                 :             :     return UNDEFINED;
     731                 :             : 
     732                 :             :   /* Arrive here for more complex cases.  */
     733                 :   206990637 :   has_constant_operand = false;
     734                 :   206990637 :   has_undefined_operand = false;
     735                 :   206990637 :   all_undefined_operands = true;
     736                 :   206990637 :   has_nsa_operand = false;
     737                 :   423452888 :   FOR_EACH_SSA_TREE_OPERAND (use, stmt, iter, SSA_OP_USE)
     738                 :             :     {
     739                 :   216462251 :       ccp_prop_value_t *val = get_value (use);
     740                 :             : 
     741                 :   216462251 :       if (val && val->lattice_val == UNDEFINED)
     742                 :             :         has_undefined_operand = true;
     743                 :             :       else
     744                 :   216172004 :         all_undefined_operands = false;
     745                 :             : 
     746                 :   216462251 :       if (val && val->lattice_val == CONSTANT)
     747                 :   216462251 :         has_constant_operand = true;
     748                 :             : 
     749                 :   216462251 :       if (SSA_NAME_IS_DEFAULT_DEF (use)
     750                 :   216462251 :           || !prop_simulate_again_p (SSA_NAME_DEF_STMT (use)))
     751                 :             :         has_nsa_operand = true;
     752                 :             :     }
     753                 :             : 
     754                 :             :   /* There may be constants in regular rhs operands.  For calls we
     755                 :             :      have to ignore lhs, fndecl and static chain, otherwise only
     756                 :             :      the lhs.  */
     757                 :   413981274 :   for (i = (is_gimple_call (stmt) ? 2 : 0) + gimple_has_lhs (stmt);
     758                 :   623836194 :        i < gimple_num_ops (stmt); ++i)
     759                 :             :     {
     760                 :   416845557 :       tree op = gimple_op (stmt, i);
     761                 :   416845557 :       if (!op || TREE_CODE (op) == SSA_NAME)
     762                 :   270827193 :         continue;
     763                 :   146018364 :       if (is_gimple_min_invariant (op))
     764                 :   416845557 :         has_constant_operand = true;
     765                 :             :     }
     766                 :             : 
     767                 :   206990637 :   if (has_constant_operand)
     768                 :   161960838 :     all_undefined_operands = false;
     769                 :             : 
     770                 :   206990637 :   if (has_undefined_operand
     771                 :   206990637 :       && code == GIMPLE_CALL
     772                 :   206990637 :       && gimple_call_internal_p (stmt))
     773                 :       20554 :     switch (gimple_call_internal_fn (stmt))
     774                 :             :       {
     775                 :             :         /* These 3 builtins use the first argument just as a magic
     776                 :             :            way how to find out a decl uid.  */
     777                 :       20452 :       case IFN_GOMP_SIMD_LANE:
     778                 :       20452 :       case IFN_GOMP_SIMD_VF:
     779                 :       20452 :       case IFN_GOMP_SIMD_LAST_LANE:
     780                 :       20452 :         has_undefined_operand = false;
     781                 :       20452 :         break;
     782                 :             :       default:
     783                 :             :         break;
     784                 :             :       }
     785                 :             : 
     786                 :             :   /* If the operation combines operands like COMPLEX_EXPR make sure to
     787                 :             :      not mark the result UNDEFINED if only one part of the result is
     788                 :             :      undefined.  */
     789                 :   206990637 :   if (has_undefined_operand && all_undefined_operands)
     790                 :             :     return UNDEFINED;
     791                 :   206917090 :   else if (code == GIMPLE_ASSIGN && has_undefined_operand)
     792                 :             :     {
     793                 :       53684 :       switch (gimple_assign_rhs_code (stmt))
     794                 :             :         {
     795                 :             :         /* Unary operators are handled with all_undefined_operands.  */
     796                 :             :         case PLUS_EXPR:
     797                 :             :         case MINUS_EXPR:
     798                 :             :         case POINTER_PLUS_EXPR:
     799                 :             :         case BIT_XOR_EXPR:
     800                 :             :           /* Not MIN_EXPR, MAX_EXPR.  One VARYING operand may be selected.
     801                 :             :              Not bitwise operators, one VARYING operand may specify the
     802                 :             :              result completely.
     803                 :             :              Not logical operators for the same reason, apart from XOR.
     804                 :             :              Not COMPLEX_EXPR as one VARYING operand makes the result partly
     805                 :             :              not UNDEFINED.  Not *DIV_EXPR, comparisons and shifts because
     806                 :             :              the undefined operand may be promoted.  */
     807                 :             :           return UNDEFINED;
     808                 :             : 
     809                 :             :         case ADDR_EXPR:
     810                 :             :           /* If any part of an address is UNDEFINED, like the index
     811                 :             :              of an ARRAY_EXPR, then treat the result as UNDEFINED.  */
     812                 :             :           return UNDEFINED;
     813                 :             : 
     814                 :             :         default:
     815                 :             :           ;
     816                 :             :         }
     817                 :             :     }
     818                 :             :   /* If there was an UNDEFINED operand but the result may be not UNDEFINED
     819                 :             :      fall back to CONSTANT.  During iteration UNDEFINED may still drop
     820                 :             :      to CONSTANT.  */
     821                 :   206882231 :   if (has_undefined_operand)
     822                 :             :     return CONSTANT;
     823                 :             : 
     824                 :             :   /* We do not consider virtual operands here -- load from read-only
     825                 :             :      memory may have only VARYING virtual operands, but still be
     826                 :             :      constant.  Also we can combine the stmt with definitions from
     827                 :             :      operands whose definitions are not simulated again.  */
     828                 :   206743184 :   if (has_constant_operand
     829                 :   206743184 :       || has_nsa_operand
     830                 :   206743184 :       || gimple_references_memory_p (stmt))
     831                 :             :     return CONSTANT;
     832                 :             : 
     833                 :             :   return VARYING;
     834                 :             : }
     835                 :             : 
     836                 :             : /* Returns true if STMT cannot be constant.  */
     837                 :             : 
     838                 :             : static bool
     839                 :   257954179 : surely_varying_stmt_p (gimple *stmt)
     840                 :             : {
     841                 :             :   /* If the statement has operands that we cannot handle, it cannot be
     842                 :             :      constant.  */
     843                 :   377829412 :   if (gimple_has_volatile_ops (stmt))
     844                 :             :     return true;
     845                 :             : 
     846                 :             :   /* If it is a call and does not return a value or is not a
     847                 :             :      builtin and not an indirect call or a call to function with
     848                 :             :      assume_aligned/alloc_align attribute, it is varying.  */
     849                 :   249203707 :   if (is_gimple_call (stmt))
     850                 :             :     {
     851                 :    15100375 :       tree fndecl, fntype = gimple_call_fntype (stmt);
     852                 :    15100375 :       if (!gimple_call_lhs (stmt)
     853                 :    15100375 :           || ((fndecl = gimple_call_fndecl (stmt)) != NULL_TREE
     854                 :     6193014 :               && !fndecl_built_in_p (fndecl)
     855                 :     3602181 :               && !lookup_attribute ("assume_aligned",
     856                 :     3602181 :                                     TYPE_ATTRIBUTES (fntype))
     857                 :     3602139 :               && !lookup_attribute ("alloc_align",
     858                 :     3602139 :                                     TYPE_ATTRIBUTES (fntype))))
     859                 :    11793365 :         return true;
     860                 :             :     }
     861                 :             : 
     862                 :             :   /* Any other store operation is not interesting.  */
     863                 :   330127718 :   else if (gimple_vdef (stmt))
     864                 :             :     return true;
     865                 :             : 
     866                 :             :   /* Anything other than assignments and conditional jumps are not
     867                 :             :      interesting for CCP.  */
     868                 :   211160470 :   if (gimple_code (stmt) != GIMPLE_ASSIGN
     869                 :             :       && gimple_code (stmt) != GIMPLE_COND
     870                 :             :       && gimple_code (stmt) != GIMPLE_SWITCH
     871                 :             :       && gimple_code (stmt) != GIMPLE_CALL)
     872                 :             :     return true;
     873                 :             : 
     874                 :             :   return false;
     875                 :             : }
     876                 :             : 
     877                 :             : /* Initialize local data structures for CCP.  */
     878                 :             : 
     879                 :             : static void
     880                 :     5103437 : ccp_initialize (void)
     881                 :             : {
     882                 :     5103437 :   basic_block bb;
     883                 :             : 
     884                 :     5103437 :   n_const_val = num_ssa_names;
     885                 :     5103437 :   const_val = XCNEWVEC (ccp_prop_value_t, n_const_val);
     886                 :             : 
     887                 :             :   /* Initialize simulation flags for PHI nodes and statements.  */
     888                 :    46032823 :   FOR_EACH_BB_FN (bb, cfun)
     889                 :             :     {
     890                 :    40929386 :       gimple_stmt_iterator i;
     891                 :             : 
     892                 :   368598245 :       for (i = gsi_start_bb (bb); !gsi_end_p (i); gsi_next (&i))
     893                 :             :         {
     894                 :   286739473 :           gimple *stmt = gsi_stmt (i);
     895                 :   286739473 :           bool is_varying;
     896                 :             : 
     897                 :             :           /* If the statement is a control insn, then we do not
     898                 :             :              want to avoid simulating the statement once.  Failure
     899                 :             :              to do so means that those edges will never get added.  */
     900                 :   286739473 :           if (stmt_ends_bb_p (stmt))
     901                 :             :             is_varying = false;
     902                 :             :           else
     903                 :   257954179 :             is_varying = surely_varying_stmt_p (stmt);
     904                 :             : 
     905                 :   257954179 :           if (is_varying)
     906                 :             :             {
     907                 :   185072269 :               tree def;
     908                 :   185072269 :               ssa_op_iter iter;
     909                 :             : 
     910                 :             :               /* If the statement will not produce a constant, mark
     911                 :             :                  all its outputs VARYING.  */
     912                 :   234559036 :               FOR_EACH_SSA_TREE_OPERAND (def, stmt, iter, SSA_OP_ALL_DEFS)
     913                 :    49486767 :                 set_value_varying (def);
     914                 :             :             }
     915                 :   286739473 :           prop_set_simulate_again (stmt, !is_varying);
     916                 :             :         }
     917                 :             :     }
     918                 :             : 
     919                 :             :   /* Now process PHI nodes.  We never clear the simulate_again flag on
     920                 :             :      phi nodes, since we do not know which edges are executable yet,
     921                 :             :      except for phi nodes for virtual operands when we do not do store ccp.  */
     922                 :    46032823 :   FOR_EACH_BB_FN (bb, cfun)
     923                 :             :     {
     924                 :    40929386 :       gphi_iterator i;
     925                 :             : 
     926                 :    56480438 :       for (i = gsi_start_phis (bb); !gsi_end_p (i); gsi_next (&i))
     927                 :             :         {
     928                 :    15551052 :           gphi *phi = i.phi ();
     929                 :             : 
     930                 :    31102104 :           if (virtual_operand_p (gimple_phi_result (phi)))
     931                 :     7342800 :             prop_set_simulate_again (phi, false);
     932                 :             :           else
     933                 :     8208252 :             prop_set_simulate_again (phi, true);
     934                 :             :         }
     935                 :             :     }
     936                 :     5103437 : }
     937                 :             : 
     938                 :             : /* Debug count support. Reset the values of ssa names
     939                 :             :    VARYING when the total number ssa names analyzed is
     940                 :             :    beyond the debug count specified.  */
     941                 :             : 
     942                 :             : static void
     943                 :     5103437 : do_dbg_cnt (void)
     944                 :             : {
     945                 :     5103437 :   unsigned i;
     946                 :   397217592 :   for (i = 0; i < num_ssa_names; i++)
     947                 :             :     {
     948                 :   193505359 :       if (!dbg_cnt (ccp))
     949                 :             :         {
     950                 :           0 :           const_val[i].lattice_val = VARYING;
     951                 :           0 :           const_val[i].mask = -1;
     952                 :           0 :           const_val[i].value = NULL_TREE;
     953                 :             :         }
     954                 :             :     }
     955                 :     5103437 : }
     956                 :             : 
     957                 :             : 
     958                 :             : /* We want to provide our own GET_VALUE and FOLD_STMT virtual methods.  */
     959                 :    20413748 : class ccp_folder : public substitute_and_fold_engine
     960                 :             : {
     961                 :             :  public:
     962                 :             :   tree value_of_expr (tree, gimple *) final override;
     963                 :             :   bool fold_stmt (gimple_stmt_iterator *) final override;
     964                 :             : };
     965                 :             : 
     966                 :             : /* This method just wraps GET_CONSTANT_VALUE for now.  Over time
     967                 :             :    naked calls to GET_CONSTANT_VALUE should be eliminated in favor
     968                 :             :    of calling member functions.  */
     969                 :             : 
     970                 :             : tree
     971                 :   257548259 : ccp_folder::value_of_expr (tree op, gimple *)
     972                 :             : {
     973                 :   257548259 :   return get_constant_value (op);
     974                 :             : }
     975                 :             : 
     976                 :             : /* Do final substitution of propagated values, cleanup the flowgraph and
     977                 :             :    free allocated storage.  If NONZERO_P, record nonzero bits.
     978                 :             : 
     979                 :             :    Return TRUE when something was optimized.  */
     980                 :             : 
     981                 :             : static bool
     982                 :     5103437 : ccp_finalize (bool nonzero_p) 
     983                 :             : {
     984                 :     5103437 :   bool something_changed;
     985                 :     5103437 :   unsigned i;
     986                 :     5103437 :   tree name;
     987                 :             : 
     988                 :     5103437 :   do_dbg_cnt ();
     989                 :             : 
     990                 :             :   /* Derive alignment and misalignment information from partially
     991                 :             :      constant pointers in the lattice or nonzero bits from partially
     992                 :             :      constant integers.  */
     993                 :   193505359 :   FOR_EACH_SSA_NAME (i, name, cfun)
     994                 :             :     {
     995                 :   160645912 :       ccp_prop_value_t *val;
     996                 :   160645912 :       unsigned int tem, align;
     997                 :             : 
     998                 :   293294849 :       if (!POINTER_TYPE_P (TREE_TYPE (name))
     999                 :   290836042 :           && (!INTEGRAL_TYPE_P (TREE_TYPE (name))
    1000                 :             :               /* Don't record nonzero bits before IPA to avoid
    1001                 :             :                  using too much memory.  */
    1002                 :    56230942 :               || !nonzero_p))
    1003                 :    75430541 :         continue;
    1004                 :             : 
    1005                 :    85215371 :       val = get_value (name);
    1006                 :   157881040 :       if (val->lattice_val != CONSTANT
    1007                 :    23307427 :           || TREE_CODE (val->value) != INTEGER_CST
    1008                 :   100703028 :           || val->mask == 0)
    1009                 :    72665669 :         continue;
    1010                 :             : 
    1011                 :    12549702 :       if (POINTER_TYPE_P (TREE_TYPE (name)))
    1012                 :             :         {
    1013                 :             :           /* Trailing mask bits specify the alignment, trailing value
    1014                 :             :              bits the misalignment.  */
    1015                 :     1159253 :           tem = val->mask.to_uhwi ();
    1016                 :     1159253 :           align = least_bit_hwi (tem);
    1017                 :     1159253 :           if (align > 1)
    1018                 :     1107924 :             set_ptr_info_alignment (get_ptr_info (name), align,
    1019                 :     1107924 :                                     (TREE_INT_CST_LOW (val->value)
    1020                 :     1107924 :                                      & (align - 1)));
    1021                 :             :         }
    1022                 :             :       else
    1023                 :             :         {
    1024                 :    11390449 :           unsigned int precision = TYPE_PRECISION (TREE_TYPE (val->value));
    1025                 :    11390449 :           wide_int value = wi::to_wide (val->value);
    1026                 :    11390449 :           wide_int mask = wide_int::from (val->mask, precision, UNSIGNED);
    1027                 :    11390449 :           set_bitmask (name, value, mask);
    1028                 :    11390641 :         }
    1029                 :             :     }
    1030                 :             : 
    1031                 :             :   /* Perform substitutions based on the known constant values.  */
    1032                 :     5103437 :   class ccp_folder ccp_folder;
    1033                 :     5103437 :   something_changed = ccp_folder.substitute_and_fold ();
    1034                 :             : 
    1035                 :     5103437 :   free (const_val);
    1036                 :     5103437 :   const_val = NULL;
    1037                 :     5103437 :   return something_changed;
    1038                 :     5103437 : }
    1039                 :             : 
    1040                 :             : 
    1041                 :             : /* Compute the meet operator between *VAL1 and *VAL2.  Store the result
    1042                 :             :    in VAL1.
    1043                 :             : 
    1044                 :             :                 any  M UNDEFINED   = any
    1045                 :             :                 any  M VARYING     = VARYING
    1046                 :             :                 Ci   M Cj          = Ci         if (i == j)
    1047                 :             :                 Ci   M Cj          = VARYING    if (i != j)
    1048                 :             :    */
    1049                 :             : 
    1050                 :             : static void
    1051                 :   199170576 : ccp_lattice_meet (ccp_prop_value_t *val1, ccp_prop_value_t *val2)
    1052                 :             : {
    1053                 :   199170576 :   if (val1->lattice_val == UNDEFINED
    1054                 :             :       /* For UNDEFINED M SSA we can't always SSA because its definition
    1055                 :             :          may not dominate the PHI node.  Doing optimistic copy propagation
    1056                 :             :          also causes a lot of gcc.dg/uninit-pred*.c FAILs.  */
    1057                 :      147442 :       && (val2->lattice_val != CONSTANT
    1058                 :       85376 :           || TREE_CODE (val2->value) != SSA_NAME))
    1059                 :             :     {
    1060                 :             :       /* UNDEFINED M any = any   */
    1061                 :       78006 :       *val1 = *val2;
    1062                 :             :     }
    1063                 :   199092570 :   else if (val2->lattice_val == UNDEFINED
    1064                 :             :            /* See above.  */
    1065                 :       84869 :            && (val1->lattice_val != CONSTANT
    1066                 :       54143 :                || TREE_CODE (val1->value) != SSA_NAME))
    1067                 :             :     {
    1068                 :             :       /* any M UNDEFINED = any
    1069                 :             :          Nothing to do.  VAL1 already contains the value we want.  */
    1070                 :             :       ;
    1071                 :             :     }
    1072                 :   199032027 :   else if (val1->lattice_val == VARYING
    1073                 :   193890751 :            || val2->lattice_val == VARYING)
    1074                 :             :     {
    1075                 :             :       /* any M VARYING = VARYING.  */
    1076                 :     5159500 :       val1->lattice_val = VARYING;
    1077                 :     5159500 :       val1->mask = -1;
    1078                 :     5159500 :       val1->value = NULL_TREE;
    1079                 :             :     }
    1080                 :   193872527 :   else if (val1->lattice_val == CONSTANT
    1081                 :   193803091 :            && val2->lattice_val == CONSTANT
    1082                 :   193778765 :            && TREE_CODE (val1->value) == INTEGER_CST
    1083                 :   189446921 :            && TREE_CODE (val2->value) == INTEGER_CST)
    1084                 :             :     {
    1085                 :             :       /* Ci M Cj = Ci           if (i == j)
    1086                 :             :          Ci M Cj = VARYING      if (i != j)
    1087                 :             : 
    1088                 :             :          For INTEGER_CSTs mask unequal bits.  If no equal bits remain,
    1089                 :             :          drop to varying.  */
    1090                 :   375433440 :       val1->mask = (val1->mask | val2->mask
    1091                 :   375433440 :                     | (wi::to_widest (val1->value)
    1092                 :   563150160 :                        ^ wi::to_widest (val2->value)));
    1093                 :   187716720 :       if (wi::sext (val1->mask, TYPE_PRECISION (TREE_TYPE (val1->value))) == -1)
    1094                 :             :         {
    1095                 :      424165 :           val1->lattice_val = VARYING;
    1096                 :      424165 :           val1->value = NULL_TREE;
    1097                 :             :         }
    1098                 :             :     }
    1099                 :     6155807 :   else if (val1->lattice_val == CONSTANT
    1100                 :     6086371 :            && val2->lattice_val == CONSTANT
    1101                 :    12217852 :            && operand_equal_p (val1->value, val2->value, 0))
    1102                 :             :     {
    1103                 :             :       /* Ci M Cj = Ci           if (i == j)
    1104                 :             :          Ci M Cj = VARYING      if (i != j)
    1105                 :             : 
    1106                 :             :          VAL1 already contains the value we want for equivalent values.  */
    1107                 :             :     }
    1108                 :     5823226 :   else if (val1->lattice_val == CONSTANT
    1109                 :     5753790 :            && val2->lattice_val == CONSTANT
    1110                 :     5729464 :            && (TREE_CODE (val1->value) == ADDR_EXPR
    1111                 :     5557605 :                || TREE_CODE (val2->value) == ADDR_EXPR))
    1112                 :             :     {
    1113                 :             :       /* When not equal addresses are involved try meeting for
    1114                 :             :          alignment.  */
    1115                 :      647967 :       ccp_prop_value_t tem = *val2;
    1116                 :      647967 :       if (TREE_CODE (val1->value) == ADDR_EXPR)
    1117                 :      171859 :         *val1 = get_value_for_expr (val1->value, true);
    1118                 :      647967 :       if (TREE_CODE (val2->value) == ADDR_EXPR)
    1119                 :      564660 :         tem = get_value_for_expr (val2->value, true);
    1120                 :      647967 :       ccp_lattice_meet (val1, &tem);
    1121                 :      647967 :     }
    1122                 :             :   else
    1123                 :             :     {
    1124                 :             :       /* Any other combination is VARYING.  */
    1125                 :     5175259 :       val1->lattice_val = VARYING;
    1126                 :     5175259 :       val1->mask = -1;
    1127                 :     5175259 :       val1->value = NULL_TREE;
    1128                 :             :     }
    1129                 :   199170576 : }
    1130                 :             : 
    1131                 :             : 
    1132                 :             : /* Loop through the PHI_NODE's parameters for BLOCK and compare their
    1133                 :             :    lattice values to determine PHI_NODE's lattice value.  The value of a
    1134                 :             :    PHI node is determined calling ccp_lattice_meet with all the arguments
    1135                 :             :    of the PHI node that are incoming via executable edges.  */
    1136                 :             : 
    1137                 :             : enum ssa_prop_result
    1138                 :    56713742 : ccp_propagate::visit_phi (gphi *phi)
    1139                 :             : {
    1140                 :    56713742 :   unsigned i;
    1141                 :    56713742 :   ccp_prop_value_t new_val;
    1142                 :             : 
    1143                 :    56713742 :   if (dump_file && (dump_flags & TDF_DETAILS))
    1144                 :             :     {
    1145                 :           4 :       fprintf (dump_file, "\nVisiting PHI node: ");
    1146                 :           4 :       print_gimple_stmt (dump_file, phi, 0, dump_flags);
    1147                 :             :     }
    1148                 :             : 
    1149                 :    56713742 :   new_val.lattice_val = UNDEFINED;
    1150                 :    56713742 :   new_val.value = NULL_TREE;
    1151                 :    56713742 :   new_val.mask = 0;
    1152                 :             : 
    1153                 :    56713742 :   bool first = true;
    1154                 :    56713742 :   bool non_exec_edge = false;
    1155                 :   165840714 :   for (i = 0; i < gimple_phi_num_args (phi); i++)
    1156                 :             :     {
    1157                 :             :       /* Compute the meet operator over all the PHI arguments flowing
    1158                 :             :          through executable edges.  */
    1159                 :   114603852 :       edge e = gimple_phi_arg_edge (phi, i);
    1160                 :             : 
    1161                 :   114603852 :       if (dump_file && (dump_flags & TDF_DETAILS))
    1162                 :             :         {
    1163                 :          16 :           fprintf (dump_file,
    1164                 :             :               "\tArgument #%d (%d -> %d %sexecutable)\n",
    1165                 :           8 :               i, e->src->index, e->dest->index,
    1166                 :           8 :               (e->flags & EDGE_EXECUTABLE) ? "" : "not ");
    1167                 :             :         }
    1168                 :             : 
    1169                 :             :       /* If the incoming edge is executable, Compute the meet operator for
    1170                 :             :          the existing value of the PHI node and the current PHI argument.  */
    1171                 :   114603852 :       if (e->flags & EDGE_EXECUTABLE)
    1172                 :             :         {
    1173                 :   110073795 :           tree arg = gimple_phi_arg (phi, i)->def;
    1174                 :   110073795 :           ccp_prop_value_t arg_val = get_value_for_expr (arg, false);
    1175                 :             : 
    1176                 :   110073795 :           if (first)
    1177                 :             :             {
    1178                 :    56713742 :               new_val = arg_val;
    1179                 :    56713742 :               first = false;
    1180                 :             :             }
    1181                 :             :           else
    1182                 :    53360053 :             ccp_lattice_meet (&new_val, &arg_val);
    1183                 :             : 
    1184                 :   110073795 :           if (dump_file && (dump_flags & TDF_DETAILS))
    1185                 :             :             {
    1186                 :           4 :               fprintf (dump_file, "\t");
    1187                 :           4 :               print_generic_expr (dump_file, arg, dump_flags);
    1188                 :           4 :               dump_lattice_value (dump_file, "\tValue: ", arg_val);
    1189                 :           4 :               fprintf (dump_file, "\n");
    1190                 :             :             }
    1191                 :             : 
    1192                 :   110073795 :           if (new_val.lattice_val == VARYING)
    1193                 :             :             break;
    1194                 :   110073795 :         }
    1195                 :             :       else
    1196                 :             :         non_exec_edge = true;
    1197                 :             :     }
    1198                 :             : 
    1199                 :             :   /* In case there were non-executable edges and the value is a copy
    1200                 :             :      make sure its definition dominates the PHI node.  */
    1201                 :    56713742 :   if (non_exec_edge
    1202                 :     4236297 :       && new_val.lattice_val == CONSTANT
    1203                 :     4151570 :       && TREE_CODE (new_val.value) == SSA_NAME
    1204                 :     1186767 :       && ! SSA_NAME_IS_DEFAULT_DEF (new_val.value)
    1205                 :    57770552 :       && ! dominated_by_p (CDI_DOMINATORS, gimple_bb (phi),
    1206                 :     1056810 :                            gimple_bb (SSA_NAME_DEF_STMT (new_val.value))))
    1207                 :             :     {
    1208                 :       73276 :       new_val.lattice_val = VARYING;
    1209                 :       73276 :       new_val.value = NULL_TREE;
    1210                 :       73276 :       new_val.mask = -1;
    1211                 :             :     }
    1212                 :             : 
    1213                 :    56713742 :   if (dump_file && (dump_flags & TDF_DETAILS))
    1214                 :             :     {
    1215                 :           4 :       dump_lattice_value (dump_file, "\n    PHI node value: ", new_val);
    1216                 :           4 :       fprintf (dump_file, "\n\n");
    1217                 :             :     }
    1218                 :             : 
    1219                 :             :   /* Make the transition to the new value.  */
    1220                 :    56713742 :   if (set_lattice_value (gimple_phi_result (phi), &new_val))
    1221                 :             :     {
    1222                 :    55536829 :       if (new_val.lattice_val == VARYING)
    1223                 :             :         return SSA_PROP_VARYING;
    1224                 :             :       else
    1225                 :    49906768 :         return SSA_PROP_INTERESTING;
    1226                 :             :     }
    1227                 :             :   else
    1228                 :             :     return SSA_PROP_NOT_INTERESTING;
    1229                 :    56713742 : }
    1230                 :             : 
    1231                 :             : /* Return the constant value for OP or OP otherwise.  */
    1232                 :             : 
    1233                 :             : static tree
    1234                 :   248977290 : valueize_op (tree op)
    1235                 :             : {
    1236                 :   248977290 :   if (TREE_CODE (op) == SSA_NAME)
    1237                 :             :     {
    1238                 :   238030695 :       tree tem = get_constant_value (op);
    1239                 :   238030695 :       if (tem)
    1240                 :             :         return tem;
    1241                 :             :     }
    1242                 :             :   return op;
    1243                 :             : }
    1244                 :             : 
    1245                 :             : /* Return the constant value for OP, but signal to not follow SSA
    1246                 :             :    edges if the definition may be simulated again.  */
    1247                 :             : 
    1248                 :             : static tree
    1249                 :  2382598589 : valueize_op_1 (tree op)
    1250                 :             : {
    1251                 :  2382598589 :   if (TREE_CODE (op) == SSA_NAME)
    1252                 :             :     {
    1253                 :             :       /* If the definition may be simulated again we cannot follow
    1254                 :             :          this SSA edge as the SSA propagator does not necessarily
    1255                 :             :          re-visit the use.  */
    1256                 :  2382598589 :       gimple *def_stmt = SSA_NAME_DEF_STMT (op);
    1257                 :  2382598589 :       if (!gimple_nop_p (def_stmt)
    1258                 :  2382598589 :           && prop_simulate_again_p (def_stmt))
    1259                 :             :         return NULL_TREE;
    1260                 :  1201012686 :       tree tem = get_constant_value (op);
    1261                 :  1201012686 :       if (tem)
    1262                 :             :         return tem;
    1263                 :             :     }
    1264                 :             :   return op;
    1265                 :             : }
    1266                 :             : 
    1267                 :             : /* CCP specific front-end to the non-destructive constant folding
    1268                 :             :    routines.
    1269                 :             : 
    1270                 :             :    Attempt to simplify the RHS of STMT knowing that one or more
    1271                 :             :    operands are constants.
    1272                 :             : 
    1273                 :             :    If simplification is possible, return the simplified RHS,
    1274                 :             :    otherwise return the original RHS or NULL_TREE.  */
    1275                 :             : 
    1276                 :             : static tree
    1277                 :   206776105 : ccp_fold (gimple *stmt)
    1278                 :             : {
    1279                 :   206776105 :   switch (gimple_code (stmt))
    1280                 :             :     {
    1281                 :       92675 :     case GIMPLE_SWITCH:
    1282                 :       92675 :       {
    1283                 :             :         /* Return the constant switch index.  */
    1284                 :       92675 :         return valueize_op (gimple_switch_index (as_a <gswitch *> (stmt)));
    1285                 :             :       }
    1286                 :             : 
    1287                 :   206683430 :     case GIMPLE_COND:
    1288                 :   206683430 :     case GIMPLE_ASSIGN:
    1289                 :   206683430 :     case GIMPLE_CALL:
    1290                 :   206683430 :       return gimple_fold_stmt_to_constant_1 (stmt,
    1291                 :   206683430 :                                              valueize_op, valueize_op_1);
    1292                 :             : 
    1293                 :           0 :     default:
    1294                 :           0 :       gcc_unreachable ();
    1295                 :             :     }
    1296                 :             : }
    1297                 :             : 
    1298                 :             : /* Determine the minimum and maximum values, *MIN and *MAX respectively,
    1299                 :             :    represented by the mask pair VAL and MASK with signedness SGN and
    1300                 :             :    precision PRECISION.  */
    1301                 :             : 
    1302                 :             : static void
    1303                 :    22965964 : value_mask_to_min_max (widest_int *min, widest_int *max,
    1304                 :             :                        const widest_int &val, const widest_int &mask,
    1305                 :             :                        signop sgn, int precision)
    1306                 :             : {
    1307                 :    22965964 :   *min = wi::bit_and_not (val, mask);
    1308                 :    22965964 :   *max = val | mask;
    1309                 :    22965964 :   if (sgn == SIGNED && wi::neg_p (mask))
    1310                 :             :     {
    1311                 :     5824495 :       widest_int sign_bit = wi::lshift (1, precision - 1);
    1312                 :     5824495 :       *min ^= sign_bit;
    1313                 :     5824495 :       *max ^= sign_bit;
    1314                 :             :       /* MAX is zero extended, and MIN is sign extended.  */
    1315                 :     5824495 :       *min = wi::ext (*min, precision, sgn);
    1316                 :     5824543 :       *max = wi::ext (*max, precision, sgn);
    1317                 :     5824495 :     }
    1318                 :    22965964 : }
    1319                 :             : 
    1320                 :             : /* Apply the operation CODE in type TYPE to the value, mask pair
    1321                 :             :    RVAL and RMASK representing a value of type RTYPE and set
    1322                 :             :    the value, mask pair *VAL and *MASK to the result.  */
    1323                 :             : 
    1324                 :             : void
    1325                 :    81077838 : bit_value_unop (enum tree_code code, signop type_sgn, int type_precision, 
    1326                 :             :                 widest_int *val, widest_int *mask,
    1327                 :             :                 signop rtype_sgn, int rtype_precision,
    1328                 :             :                 const widest_int &rval, const widest_int &rmask)
    1329                 :             : {
    1330                 :    81077966 :   switch (code)
    1331                 :             :     {
    1332                 :      616219 :     case BIT_NOT_EXPR:
    1333                 :      616219 :       *mask = rmask;
    1334                 :      616219 :       *val = ~rval;
    1335                 :      616219 :       break;
    1336                 :             : 
    1337                 :      238307 :     case NEGATE_EXPR:
    1338                 :      238307 :       {
    1339                 :      238307 :         widest_int temv, temm;
    1340                 :             :         /* Return ~rval + 1.  */
    1341                 :      238307 :         bit_value_unop (BIT_NOT_EXPR, type_sgn, type_precision, &temv, &temm,
    1342                 :             :                         type_sgn, type_precision, rval, rmask);
    1343                 :      238307 :         bit_value_binop (PLUS_EXPR, type_sgn, type_precision, val, mask,
    1344                 :             :                          type_sgn, type_precision, temv, temm,
    1345                 :      476614 :                          type_sgn, type_precision, 1, 0);
    1346                 :      238307 :         break;
    1347                 :      238307 :       }
    1348                 :             : 
    1349                 :    80150910 :     CASE_CONVERT:
    1350                 :    80150910 :       {
    1351                 :             :         /* First extend mask and value according to the original type.  */
    1352                 :    80150910 :         *mask = wi::ext (rmask, rtype_precision, rtype_sgn);
    1353                 :    80150910 :         *val = wi::ext (rval, rtype_precision, rtype_sgn);
    1354                 :             : 
    1355                 :             :         /* Then extend mask and value according to the target type.  */
    1356                 :    80150910 :         *mask = wi::ext (*mask, type_precision, type_sgn);
    1357                 :    80150910 :         *val = wi::ext (*val, type_precision, type_sgn);
    1358                 :    80150910 :         break;
    1359                 :             :       }
    1360                 :             : 
    1361                 :       72530 :     case ABS_EXPR:
    1362                 :       72530 :     case ABSU_EXPR:
    1363                 :       72530 :       if (wi::sext (rmask, rtype_precision) == -1)
    1364                 :             :         {
    1365                 :       62497 :           *mask = -1;
    1366                 :       62497 :           *val = 0;
    1367                 :             :         }
    1368                 :       10033 :       else if (wi::neg_p (rmask))
    1369                 :             :         {
    1370                 :             :           /* Result is either rval or -rval.  */
    1371                 :         111 :           widest_int temv, temm;
    1372                 :         111 :           bit_value_unop (NEGATE_EXPR, rtype_sgn, rtype_precision, &temv,
    1373                 :             :                           &temm, type_sgn, type_precision, rval, rmask);
    1374                 :         111 :           temm |= (rmask | (rval ^ temv));
    1375                 :             :           /* Extend the result.  */
    1376                 :         111 :           *mask = wi::ext (temm, type_precision, type_sgn);
    1377                 :         111 :           *val = wi::ext (temv, type_precision, type_sgn);
    1378                 :         111 :         }
    1379                 :        9922 :       else if (wi::neg_p (rval))
    1380                 :             :         {
    1381                 :             :           bit_value_unop (NEGATE_EXPR, type_sgn, type_precision, val, mask,
    1382                 :             :                           type_sgn, type_precision, rval, rmask);
    1383                 :             :         }
    1384                 :             :       else
    1385                 :             :         {
    1386                 :        9794 :           *mask = rmask;
    1387                 :        9794 :           *val = rval;
    1388                 :             :         }
    1389                 :             :       break;
    1390                 :             : 
    1391                 :           0 :     default:
    1392                 :           0 :       *mask = -1;
    1393                 :           0 :       *val = 0;
    1394                 :           0 :       break;
    1395                 :             :     }
    1396                 :    81077838 : }
    1397                 :             : 
    1398                 :             : /* Determine the mask pair *VAL and *MASK from multiplying the
    1399                 :             :    argument mask pair RVAL, RMASK by the unsigned constant C.  */
    1400                 :             : static void
    1401                 :    23390171 : bit_value_mult_const (signop sgn, int width,
    1402                 :             :                       widest_int *val, widest_int *mask,
    1403                 :             :                       const widest_int &rval, const widest_int &rmask,
    1404                 :             :                       widest_int c)
    1405                 :             : {
    1406                 :    23390171 :   widest_int sum_mask = 0;
    1407                 :             : 
    1408                 :             :   /* Ensure rval_lo only contains known bits.  */
    1409                 :    23390171 :   widest_int rval_lo = wi::bit_and_not (rval, rmask);
    1410                 :             : 
    1411                 :    23390171 :   if (rval_lo != 0)
    1412                 :             :     {
    1413                 :             :       /* General case (some bits of multiplicand are known set).  */
    1414                 :      558491 :       widest_int sum_val = 0;
    1415                 :     1330980 :       while (c != 0)
    1416                 :             :         {
    1417                 :             :           /* Determine the lowest bit set in the multiplier.  */
    1418                 :      772489 :           int bitpos = wi::ctz (c);
    1419                 :      772489 :           widest_int term_mask = rmask << bitpos;
    1420                 :      772489 :           widest_int term_val = rval_lo << bitpos;
    1421                 :             : 
    1422                 :             :           /* sum += term.  */
    1423                 :      772489 :           widest_int lo = sum_val + term_val;
    1424                 :      772489 :           widest_int hi = (sum_val | sum_mask) + (term_val | term_mask);
    1425                 :      772489 :           sum_mask |= term_mask | (lo ^ hi);
    1426                 :      772489 :           sum_val = lo;
    1427                 :             : 
    1428                 :             :           /* Clear this bit in the multiplier.  */
    1429                 :      772489 :           c ^= wi::lshift (1, bitpos);
    1430                 :      772489 :         }
    1431                 :             :       /* Correctly extend the result value.  */
    1432                 :      558491 :       *val = wi::ext (sum_val, width, sgn);
    1433                 :      558491 :     }
    1434                 :             :   else
    1435                 :             :     {
    1436                 :             :       /* Special case (no bits of multiplicand are known set).  */
    1437                 :    59329371 :       while (c != 0)
    1438                 :             :         {
    1439                 :             :           /* Determine the lowest bit set in the multiplier.  */
    1440                 :    36497691 :           int bitpos = wi::ctz (c);
    1441                 :    36497691 :           widest_int term_mask = rmask << bitpos;
    1442                 :             : 
    1443                 :             :           /* sum += term.  */
    1444                 :    36497691 :           widest_int hi = sum_mask + term_mask;
    1445                 :    36497691 :           sum_mask |= term_mask | hi;
    1446                 :             : 
    1447                 :             :           /* Clear this bit in the multiplier.  */
    1448                 :    36497699 :           c ^= wi::lshift (1, bitpos);
    1449                 :    36497750 :         }
    1450                 :    22831680 :       *val = 0;
    1451                 :             :     }
    1452                 :             : 
    1453                 :             :   /* Correctly extend the result mask.  */
    1454                 :    23390179 :   *mask = wi::ext (sum_mask, width, sgn);
    1455                 :    23390171 : }
    1456                 :             : 
    1457                 :             : /* Fill up to MAX values in the BITS array with values representing
    1458                 :             :    each of the non-zero bits in the value X.  Returns the number of
    1459                 :             :    bits in X (capped at the maximum value MAX).  For example, an X
    1460                 :             :    value 11, places 1, 2 and 8 in BITS and returns the value 3.  */
    1461                 :             : 
    1462                 :             : static unsigned int
    1463                 :      276997 : get_individual_bits (widest_int *bits, widest_int x, unsigned int max)
    1464                 :             : {
    1465                 :      276997 :   unsigned int count = 0;
    1466                 :     1113559 :   while (count < max && x != 0)
    1467                 :             :     {
    1468                 :      836562 :       int bitpos = wi::ctz (x);
    1469                 :      836562 :       bits[count] = wi::lshift (1, bitpos);
    1470                 :      836562 :       x ^= bits[count];
    1471                 :      836562 :       count++;
    1472                 :             :     }
    1473                 :      276997 :   return count;
    1474                 :             : }
    1475                 :             : 
    1476                 :             : /* Array of 2^N - 1 values representing the bits flipped between
    1477                 :             :    consecutive Gray codes.  This is used to efficiently enumerate
    1478                 :             :    all permutations on N bits using XOR.  */
    1479                 :             : static const unsigned char gray_code_bit_flips[63] = {
    1480                 :             :   0, 1, 0, 2, 0, 1, 0, 3, 0, 1, 0, 2, 0, 1, 0, 4,
    1481                 :             :   0, 1, 0, 2, 0, 1, 0, 3, 0, 1, 0, 2, 0, 1, 0, 5,
    1482                 :             :   0, 1, 0, 2, 0, 1, 0, 3, 0, 1, 0, 2, 0, 1, 0, 4,
    1483                 :             :   0, 1, 0, 2, 0, 1, 0, 3, 0, 1, 0, 2, 0, 1, 0
    1484                 :             : };
    1485                 :             : 
    1486                 :             : /* Apply the operation CODE in type TYPE to the value, mask pairs
    1487                 :             :    R1VAL, R1MASK and R2VAL, R2MASK representing a values of type R1TYPE
    1488                 :             :    and R2TYPE and set the value, mask pair *VAL and *MASK to the result.  */
    1489                 :             : 
    1490                 :             : void
    1491                 :   198921152 : bit_value_binop (enum tree_code code, signop sgn, int width, 
    1492                 :             :                  widest_int *val, widest_int *mask,
    1493                 :             :                  signop r1type_sgn, int r1type_precision,
    1494                 :             :                  const widest_int &r1val, const widest_int &r1mask,
    1495                 :             :                  signop r2type_sgn, int r2type_precision ATTRIBUTE_UNUSED,
    1496                 :             :                  const widest_int &r2val, const widest_int &r2mask)
    1497                 :             : {
    1498                 :   198921152 :   bool swap_p = false;
    1499                 :             : 
    1500                 :             :   /* Assume we'll get a constant result.  Use an initial non varying
    1501                 :             :      value, we fall back to varying in the end if necessary.  */
    1502                 :   198921152 :   *mask = -1;
    1503                 :             :   /* Ensure that VAL is initialized (to any value).  */
    1504                 :   198921152 :   *val = 0;
    1505                 :             : 
    1506                 :   198921152 :   switch (code)
    1507                 :             :     {
    1508                 :     7400876 :     case BIT_AND_EXPR:
    1509                 :             :       /* The mask is constant where there is a known not
    1510                 :             :          set bit, (m1 | m2) & ((v1 | m1) & (v2 | m2)) */
    1511                 :     7400876 :       *mask = (r1mask | r2mask) & (r1val | r1mask) & (r2val | r2mask);
    1512                 :     7400876 :       *val = r1val & r2val;
    1513                 :     7400876 :       break;
    1514                 :             : 
    1515                 :     2813053 :     case BIT_IOR_EXPR:
    1516                 :             :       /* The mask is constant where there is a known
    1517                 :             :          set bit, (m1 | m2) & ~((v1 & ~m1) | (v2 & ~m2)).  */
    1518                 :     5626106 :       *mask = wi::bit_and_not (r1mask | r2mask,
    1519                 :     5626106 :                                wi::bit_and_not (r1val, r1mask)
    1520                 :    11252212 :                                | wi::bit_and_not (r2val, r2mask));
    1521                 :     2813053 :       *val = r1val | r2val;
    1522                 :     2813053 :       break;
    1523                 :             : 
    1524                 :      318379 :     case BIT_XOR_EXPR:
    1525                 :             :       /* m1 | m2  */
    1526                 :      318379 :       *mask = r1mask | r2mask;
    1527                 :      318379 :       *val = r1val ^ r2val;
    1528                 :      318379 :       break;
    1529                 :             : 
    1530                 :       24383 :     case LROTATE_EXPR:
    1531                 :       24383 :     case RROTATE_EXPR:
    1532                 :       24383 :       if (r2mask == 0)
    1533                 :             :         {
    1534                 :       14806 :           widest_int shift = r2val;
    1535                 :       14806 :           if (shift == 0)
    1536                 :             :             {
    1537                 :          14 :               *mask = r1mask;
    1538                 :          14 :               *val = r1val;
    1539                 :             :             }
    1540                 :             :           else
    1541                 :             :             {
    1542                 :       14792 :               if (wi::neg_p (shift, r2type_sgn))
    1543                 :             :                 {
    1544                 :           4 :                   shift = -shift;
    1545                 :           4 :                   if (code == RROTATE_EXPR)
    1546                 :             :                     code = LROTATE_EXPR;
    1547                 :             :                   else
    1548                 :             :                     code = RROTATE_EXPR;
    1549                 :             :                 }
    1550                 :       14788 :               if (code == RROTATE_EXPR)
    1551                 :             :                 {
    1552                 :       14719 :                   *mask = wi::rrotate (r1mask, shift, width);
    1553                 :       14719 :                   *val = wi::rrotate (r1val, shift, width);
    1554                 :             :                 }
    1555                 :             :               else
    1556                 :             :                 {
    1557                 :          73 :                   *mask = wi::lrotate (r1mask, shift, width);
    1558                 :          73 :                   *val = wi::lrotate (r1val, shift, width);
    1559                 :             :                 }
    1560                 :       14792 :               *mask = wi::ext (*mask, width, sgn);
    1561                 :       14792 :               *val = wi::ext (*val, width, sgn);
    1562                 :             :             }
    1563                 :       14806 :         }
    1564                 :       19154 :       else if (wi::ltu_p (r2val | r2mask, width)
    1565                 :       30362 :                && wi::popcount (r2mask) <= 4)
    1566                 :             :         {
    1567                 :       36927 :           widest_int bits[4];
    1568                 :        4103 :           widest_int res_val, res_mask;
    1569                 :        4103 :           widest_int tmp_val, tmp_mask;
    1570                 :        4103 :           widest_int shift = wi::bit_and_not (r2val, r2mask);
    1571                 :        4103 :           unsigned int bit_count = get_individual_bits (bits, r2mask, 4);
    1572                 :        4103 :           unsigned int count = (1 << bit_count) - 1;
    1573                 :             : 
    1574                 :             :           /* Initialize result to rotate by smallest value of shift.  */
    1575                 :        4103 :           if (code == RROTATE_EXPR)
    1576                 :             :             {
    1577                 :        1972 :               res_mask = wi::rrotate (r1mask, shift, width);
    1578                 :        1972 :               res_val = wi::rrotate (r1val, shift, width);
    1579                 :             :             }
    1580                 :             :           else
    1581                 :             :             {
    1582                 :        2131 :               res_mask = wi::lrotate (r1mask, shift, width);
    1583                 :        2131 :               res_val = wi::lrotate (r1val, shift, width);
    1584                 :             :             }
    1585                 :             : 
    1586                 :             :           /* Iterate through the remaining values of shift.  */
    1587                 :       48216 :           for (unsigned int i=0; i<count; i++)
    1588                 :             :             {
    1589                 :       44113 :               shift ^= bits[gray_code_bit_flips[i]];
    1590                 :       44113 :               if (code == RROTATE_EXPR)
    1591                 :             :                 {
    1592                 :       21588 :                   tmp_mask = wi::rrotate (r1mask, shift, width);
    1593                 :       21588 :                   tmp_val = wi::rrotate (r1val, shift, width);
    1594                 :             :                 }
    1595                 :             :               else
    1596                 :             :                 {
    1597                 :       22525 :                   tmp_mask = wi::lrotate (r1mask, shift, width);
    1598                 :       22525 :                   tmp_val = wi::lrotate (r1val, shift, width);
    1599                 :             :                 }
    1600                 :             :               /* Accumulate the result.  */
    1601                 :       44113 :               res_mask |= tmp_mask | (res_val ^ tmp_val);
    1602                 :             :             }
    1603                 :        4103 :           *val = wi::ext (wi::bit_and_not (res_val, res_mask), width, sgn);
    1604                 :        4103 :           *mask = wi::ext (res_mask, width, sgn);
    1605                 :       20515 :         }
    1606                 :             :       break;
    1607                 :             : 
    1608                 :     4266461 :     case LSHIFT_EXPR:
    1609                 :     4266461 :     case RSHIFT_EXPR:
    1610                 :             :       /* ???  We can handle partially known shift counts if we know
    1611                 :             :          its sign.  That way we can tell that (x << (y | 8)) & 255
    1612                 :             :          is zero.  */
    1613                 :     4266461 :       if (r2mask == 0)
    1614                 :             :         {
    1615                 :     3435297 :           widest_int shift = r2val;
    1616                 :     3435297 :           if (shift == 0)
    1617                 :             :             {
    1618                 :       11132 :               *mask = r1mask;
    1619                 :       11132 :               *val = r1val;
    1620                 :             :             }
    1621                 :             :           else
    1622                 :             :             {
    1623                 :     3424165 :               if (wi::neg_p (shift, r2type_sgn))
    1624                 :             :                 break;
    1625                 :     3424014 :               if (code == RSHIFT_EXPR)
    1626                 :             :                 {
    1627                 :     3031414 :                   *mask = wi::rshift (wi::ext (r1mask, width, sgn), shift, sgn);
    1628                 :     3031414 :                   *val = wi::rshift (wi::ext (r1val, width, sgn), shift, sgn);
    1629                 :             :                 }
    1630                 :             :               else
    1631                 :             :                 {
    1632                 :      392604 :                   *mask = wi::ext (r1mask << shift, width, sgn);
    1633                 :      392600 :                   *val = wi::ext (r1val << shift, width, sgn);
    1634                 :             :                 }
    1635                 :             :             }
    1636                 :     3435297 :         }
    1637                 :      831164 :       else if (wi::ltu_p (r2val | r2mask, width))
    1638                 :             :         {
    1639                 :      758376 :           if (wi::popcount (r2mask) <= 4)
    1640                 :             :             {
    1641                 :     2456046 :               widest_int bits[4];
    1642                 :      272894 :               widest_int arg_val, arg_mask;
    1643                 :      272894 :               widest_int res_val, res_mask;
    1644                 :      272894 :               widest_int tmp_val, tmp_mask;
    1645                 :      272894 :               widest_int shift = wi::bit_and_not (r2val, r2mask);
    1646                 :      272894 :               unsigned int bit_count = get_individual_bits (bits, r2mask, 4);
    1647                 :      272894 :               unsigned int count = (1 << bit_count) - 1;
    1648                 :             : 
    1649                 :             :               /* Initialize result to shift by smallest value of shift.  */
    1650                 :      272894 :               if (code == RSHIFT_EXPR)
    1651                 :             :                 {
    1652                 :       97619 :                   arg_mask = wi::ext (r1mask, width, sgn);
    1653                 :       97619 :                   arg_val = wi::ext (r1val, width, sgn);
    1654                 :       97619 :                   res_mask = wi::rshift (arg_mask, shift, sgn);
    1655                 :       97619 :                   res_val = wi::rshift (arg_val, shift, sgn);
    1656                 :             :                 }
    1657                 :             :               else
    1658                 :             :                 {
    1659                 :      175275 :                   arg_mask = r1mask;
    1660                 :      175275 :                   arg_val = r1val;
    1661                 :      175275 :                   res_mask = arg_mask << shift;
    1662                 :      175275 :                   res_val = arg_val << shift;
    1663                 :             :                 }
    1664                 :             : 
    1665                 :             :               /* Iterate through the remaining values of shift.  */
    1666                 :     2660676 :               for (unsigned int i=0; i<count; i++)
    1667                 :             :                 {
    1668                 :     2387782 :                   shift ^= bits[gray_code_bit_flips[i]];
    1669                 :     2387782 :                   if (code == RSHIFT_EXPR)
    1670                 :             :                     {
    1671                 :      878069 :                       tmp_mask = wi::rshift (arg_mask, shift, sgn);
    1672                 :      878069 :                       tmp_val = wi::rshift (arg_val, shift, sgn);
    1673                 :             :                     }
    1674                 :             :                   else
    1675                 :             :                     {
    1676                 :     1509713 :                       tmp_mask = arg_mask << shift;
    1677                 :     1509713 :                       tmp_val = arg_val << shift;
    1678                 :             :                     }
    1679                 :             :                   /* Accumulate the result.  */
    1680                 :     2387782 :                   res_mask |= tmp_mask | (res_val ^ tmp_val);
    1681                 :             :                 }
    1682                 :      272894 :               res_mask = wi::ext (res_mask, width, sgn);
    1683                 :      272894 :               res_val = wi::ext (res_val, width, sgn);
    1684                 :      272894 :               *val = wi::bit_and_not (res_val, res_mask);
    1685                 :      272894 :               *mask = res_mask;
    1686                 :     1364470 :             }
    1687                 :      485482 :           else if ((r1val | r1mask) == 0)
    1688                 :             :             {
    1689                 :             :               /* Handle shifts of zero to avoid undefined wi::ctz below.  */
    1690                 :           0 :               *mask = 0;
    1691                 :           0 :               *val = 0;
    1692                 :             :             }
    1693                 :      485482 :           else if (code == LSHIFT_EXPR)
    1694                 :             :             {
    1695                 :      322344 :               widest_int tmp = wi::mask <widest_int> (width, false);
    1696                 :      322344 :               tmp <<= wi::ctz (r1val | r1mask);
    1697                 :      322344 :               tmp <<= wi::bit_and_not (r2val, r2mask);
    1698                 :      322344 :               *mask = wi::ext (tmp, width, sgn);
    1699                 :      322344 :               *val = 0;
    1700                 :      322344 :             }
    1701                 :      163138 :           else if (!wi::neg_p (r1val | r1mask, sgn))
    1702                 :             :             {
    1703                 :             :               /* Logical right shift, or zero sign bit.  */
    1704                 :      147104 :               widest_int arg = r1val | r1mask;
    1705                 :      147104 :               int lzcount = wi::clz (arg);
    1706                 :      147104 :               if (lzcount)
    1707                 :      147090 :                 lzcount -= wi::get_precision (arg) - width;
    1708                 :      147104 :               widest_int tmp = wi::mask <widest_int> (width, false);
    1709                 :      147104 :               tmp = wi::lrshift (tmp, lzcount);
    1710                 :      147104 :               tmp = wi::lrshift (tmp, wi::bit_and_not (r2val, r2mask));
    1711                 :      147104 :               *mask = wi::ext (tmp, width, sgn);
    1712                 :      147104 :               *val = 0;
    1713                 :      147104 :             }
    1714                 :       16034 :           else if (!wi::neg_p (r1mask))
    1715                 :             :             {
    1716                 :             :               /* Arithmetic right shift with set sign bit.  */
    1717                 :         958 :               widest_int arg = wi::bit_and_not (r1val, r1mask);
    1718                 :         958 :               int sbcount = wi::clrsb (arg);
    1719                 :         958 :               sbcount -= wi::get_precision (arg) - width;
    1720                 :         958 :               widest_int tmp = wi::mask <widest_int> (width, false);
    1721                 :         958 :               tmp = wi::lrshift (tmp, sbcount);
    1722                 :         958 :               tmp = wi::lrshift (tmp, wi::bit_and_not (r2val, r2mask));
    1723                 :         958 :               *mask = wi::sext (tmp, width);
    1724                 :         958 :               tmp = wi::bit_not (tmp);
    1725                 :         958 :               *val = wi::sext (tmp, width);
    1726                 :         958 :             }
    1727                 :             :         }
    1728                 :             :       break;
    1729                 :             : 
    1730                 :   101657233 :     case PLUS_EXPR:
    1731                 :   101657233 :     case POINTER_PLUS_EXPR:
    1732                 :   101657233 :       {
    1733                 :             :         /* Do the addition with unknown bits set to zero, to give carry-ins of
    1734                 :             :            zero wherever possible.  */
    1735                 :   203314466 :         widest_int lo = (wi::bit_and_not (r1val, r1mask)
    1736                 :   203314466 :                          + wi::bit_and_not (r2val, r2mask));
    1737                 :   101657233 :         lo = wi::ext (lo, width, sgn);
    1738                 :             :         /* Do the addition with unknown bits set to one, to give carry-ins of
    1739                 :             :            one wherever possible.  */
    1740                 :   101657393 :         widest_int hi = (r1val | r1mask) + (r2val | r2mask);
    1741                 :   101657233 :         hi = wi::ext (hi, width, sgn);
    1742                 :             :         /* Each bit in the result is known if (a) the corresponding bits in
    1743                 :             :            both inputs are known, and (b) the carry-in to that bit position
    1744                 :             :            is known.  We can check condition (b) by seeing if we got the same
    1745                 :             :            result with minimised carries as with maximised carries.  */
    1746                 :   101657557 :         *mask = r1mask | r2mask | (lo ^ hi);
    1747                 :   101657233 :         *mask = wi::ext (*mask, width, sgn);
    1748                 :             :         /* It shouldn't matter whether we choose lo or hi here.  */
    1749                 :   101657233 :         *val = lo;
    1750                 :   101657233 :         break;
    1751                 :   101657292 :       }
    1752                 :             : 
    1753                 :    14140302 :     case MINUS_EXPR:
    1754                 :    14140302 :     case POINTER_DIFF_EXPR:
    1755                 :    14140302 :       {
    1756                 :             :         /* Subtraction is derived from the addition algorithm above.  */
    1757                 :    14140302 :         widest_int lo = wi::bit_and_not (r1val, r1mask) - (r2val | r2mask);
    1758                 :    14140302 :         lo = wi::ext (lo, width, sgn);
    1759                 :    14140361 :         widest_int hi = (r1val | r1mask) - wi::bit_and_not (r2val, r2mask);
    1760                 :    14140302 :         hi = wi::ext (hi, width, sgn);
    1761                 :    14140420 :         *mask = r1mask | r2mask | (lo ^ hi);
    1762                 :    14140302 :         *mask = wi::ext (*mask, width, sgn);
    1763                 :    14140302 :         *val = lo;
    1764                 :    14140302 :         break;
    1765                 :    14140402 :       }
    1766                 :             : 
    1767                 :    26365857 :     case MULT_EXPR:
    1768                 :    26365857 :       if (r2mask == 0
    1769                 :    23421733 :           && !wi::neg_p (r2val, sgn)
    1770                 :    51347294 :           && (flag_expensive_optimizations || wi::popcount (r2val) < 8))
    1771                 :    23330132 :         bit_value_mult_const (sgn, width, val, mask, r1val, r1mask, r2val);
    1772                 :     3035725 :       else if (r1mask == 0
    1773                 :       61394 :                && !wi::neg_p (r1val, sgn)
    1774                 :     3111477 :                && (flag_expensive_optimizations || wi::popcount (r1val) < 8))
    1775                 :       60039 :         bit_value_mult_const (sgn, width, val, mask, r2val, r2mask, r1val);
    1776                 :             :       else
    1777                 :             :         {
    1778                 :             :           /* Just track trailing zeros in both operands and transfer
    1779                 :             :              them to the other.  */
    1780                 :     2975686 :           int r1tz = wi::ctz (r1val | r1mask);
    1781                 :     2975686 :           int r2tz = wi::ctz (r2val | r2mask);
    1782                 :     2975686 :           if (r1tz + r2tz >= width)
    1783                 :             :             {
    1784                 :          12 :               *mask = 0;
    1785                 :          12 :               *val = 0;
    1786                 :             :             }
    1787                 :     2975674 :           else if (r1tz + r2tz > 0)
    1788                 :             :             {
    1789                 :      853038 :               *mask = wi::ext (wi::mask <widest_int> (r1tz + r2tz, true),
    1790                 :      426519 :                                width, sgn);
    1791                 :      426519 :               *val = 0;
    1792                 :             :             }
    1793                 :             :         }
    1794                 :             :       break;
    1795                 :             : 
    1796                 :    26678223 :     case EQ_EXPR:
    1797                 :    26678223 :     case NE_EXPR:
    1798                 :    26678223 :       {
    1799                 :    26678223 :         widest_int m = r1mask | r2mask;
    1800                 :    26678223 :         if (wi::bit_and_not (r1val, m) != wi::bit_and_not (r2val, m))
    1801                 :             :           {
    1802                 :     2226788 :             *mask = 0;
    1803                 :     2226788 :             *val = ((code == EQ_EXPR) ? 0 : 1);
    1804                 :             :           }
    1805                 :             :         else
    1806                 :             :           {
    1807                 :             :             /* We know the result of a comparison is always one or zero.  */
    1808                 :    24451435 :             *mask = 1;
    1809                 :    24451435 :             *val = 0;
    1810                 :             :           }
    1811                 :    26678223 :         break;
    1812                 :    26678223 :       }
    1813                 :             : 
    1814                 :     6193637 :     case GE_EXPR:
    1815                 :     6193637 :     case GT_EXPR:
    1816                 :     6193637 :       swap_p = true;
    1817                 :     6193637 :       code = swap_tree_comparison (code);
    1818                 :             :       /* Fall through.  */
    1819                 :    10151240 :     case LT_EXPR:
    1820                 :    10151240 :     case LE_EXPR:
    1821                 :    10151240 :       {
    1822                 :    10151240 :         widest_int min1, max1, min2, max2;
    1823                 :    10151240 :         int minmax, maxmin;
    1824                 :             : 
    1825                 :    10151240 :         const widest_int &o1val = swap_p ? r2val : r1val;
    1826                 :    14108843 :         const widest_int &o1mask = swap_p ? r2mask : r1mask;
    1827                 :    14108843 :         const widest_int &o2val = swap_p ? r1val : r2val;
    1828                 :     3957603 :         const widest_int &o2mask = swap_p ? r1mask : r2mask;
    1829                 :             : 
    1830                 :    10151240 :         value_mask_to_min_max (&min1, &max1, o1val, o1mask,
    1831                 :             :                                r1type_sgn, r1type_precision);
    1832                 :    10151240 :         value_mask_to_min_max (&min2, &max2, o2val, o2mask,
    1833                 :             :                                r1type_sgn, r1type_precision);
    1834                 :             : 
    1835                 :             :         /* For comparisons the signedness is in the comparison operands.  */
    1836                 :             :         /* Do a cross comparison of the max/min pairs.  */
    1837                 :    10151240 :         maxmin = wi::cmp (max1, min2, r1type_sgn);
    1838                 :    10151240 :         minmax = wi::cmp (min1, max2, r1type_sgn);
    1839                 :    15305294 :         if (maxmin < (code == LE_EXPR ? 1: 0))  /* o1 < or <= o2.  */
    1840                 :             :           {
    1841                 :     2904235 :             *mask = 0;
    1842                 :     2904235 :             *val = 1;
    1843                 :             :           }
    1844                 :     9426312 :         else if (minmax > (code == LT_EXPR ? -1 : 0))  /* o1 >= or > o2.  */
    1845                 :             :           {
    1846                 :      313213 :             *mask = 0;
    1847                 :      313213 :             *val = 0;
    1848                 :             :           }
    1849                 :     6933792 :         else if (maxmin == minmax)  /* o1 and o2 are equal.  */
    1850                 :             :           {
    1851                 :             :             /* This probably should never happen as we'd have
    1852                 :             :                folded the thing during fully constant value folding.  */
    1853                 :           0 :             *mask = 0;
    1854                 :           0 :             *val = (code == LE_EXPR ? 1 : 0);
    1855                 :             :           }
    1856                 :             :         else
    1857                 :             :           {
    1858                 :             :             /* We know the result of a comparison is always one or zero.  */
    1859                 :     6933792 :             *mask = 1;
    1860                 :     6933792 :             *val = 0;
    1861                 :             :           }
    1862                 :    10151240 :         break;
    1863                 :    10151324 :       }
    1864                 :             : 
    1865                 :     1331742 :     case MIN_EXPR:
    1866                 :     1331742 :     case MAX_EXPR:
    1867                 :     1331742 :       {
    1868                 :     1331742 :         widest_int min1, max1, min2, max2;
    1869                 :             : 
    1870                 :     1331742 :         value_mask_to_min_max (&min1, &max1, r1val, r1mask, sgn, width);
    1871                 :     1331742 :         value_mask_to_min_max (&min2, &max2, r2val, r2mask, sgn, width);
    1872                 :             : 
    1873                 :     1331742 :         if (wi::cmp (max1, min2, sgn) <= 0)  /* r1 is less than r2.  */
    1874                 :             :           {
    1875                 :        5998 :             if (code == MIN_EXPR)
    1876                 :             :               {
    1877                 :        4819 :                 *mask = r1mask;
    1878                 :        4819 :                 *val = r1val;
    1879                 :             :               }
    1880                 :             :             else
    1881                 :             :               {
    1882                 :        1179 :                 *mask = r2mask;
    1883                 :        1179 :                 *val = r2val;
    1884                 :             :               }
    1885                 :             :           }
    1886                 :     1325744 :         else if (wi::cmp (min1, max2, sgn) >= 0)  /* r2 is less than r1.  */
    1887                 :             :           {
    1888                 :       73606 :             if (code == MIN_EXPR)
    1889                 :             :               {
    1890                 :        2206 :                 *mask = r2mask;
    1891                 :        2206 :                 *val = r2val;
    1892                 :             :               }
    1893                 :             :             else
    1894                 :             :               {
    1895                 :       71400 :                 *mask = r1mask;
    1896                 :       71400 :                 *val = r1val;
    1897                 :             :               }
    1898                 :             :           }
    1899                 :             :         else
    1900                 :             :           {
    1901                 :             :             /* The result is either r1 or r2.  */
    1902                 :     1252138 :             *mask = r1mask | r2mask | (r1val ^ r2val);
    1903                 :     1252138 :             *val = r1val;
    1904                 :             :           }
    1905                 :     1331742 :         break;
    1906                 :     1331742 :       }
    1907                 :             : 
    1908                 :     1359100 :     case TRUNC_MOD_EXPR:
    1909                 :     1359100 :       {
    1910                 :     1359100 :         widest_int r1max = r1val | r1mask;
    1911                 :     1359100 :         widest_int r2max = r2val | r2mask;
    1912                 :     1359100 :         if (sgn == UNSIGNED
    1913                 :     1359100 :             || (!wi::neg_p (r1max) && !wi::neg_p (r2max)))
    1914                 :             :           {
    1915                 :             :             /* Confirm R2 has some bits set, to avoid division by zero.  */
    1916                 :      742592 :             widest_int r2min = wi::bit_and_not (r2val, r2mask);
    1917                 :      742592 :             if (r2min != 0)
    1918                 :             :               {
    1919                 :             :                 /* R1 % R2 is R1 if R1 is always less than R2.  */
    1920                 :      334730 :                 if (wi::ltu_p (r1max, r2min))
    1921                 :             :                   {
    1922                 :       18260 :                     *mask = r1mask;
    1923                 :       18260 :                     *val = r1val;
    1924                 :             :                   }
    1925                 :             :                 else
    1926                 :             :                   {
    1927                 :             :                     /* R1 % R2 is always less than the maximum of R2.  */
    1928                 :      316470 :                     unsigned int lzcount = wi::clz (r2max);
    1929                 :      316470 :                     unsigned int bits = wi::get_precision (r2max) - lzcount;
    1930                 :      316470 :                     if (r2max == wi::lshift (1, bits))
    1931                 :           0 :                       bits--;
    1932                 :      316470 :                     *mask = wi::mask <widest_int> (bits, false);
    1933                 :      316470 :                     *val = 0;
    1934                 :             :                   }
    1935                 :             :                }
    1936                 :      742592 :             }
    1937                 :     1359100 :         }
    1938                 :     1359100 :       break;
    1939                 :             : 
    1940                 :     1506919 :     case TRUNC_DIV_EXPR:
    1941                 :     1506919 :       {
    1942                 :     1506919 :         widest_int r1max = r1val | r1mask;
    1943                 :     1506919 :         widest_int r2max = r2val | r2mask;
    1944                 :     1506919 :         if (r2mask == 0 && !wi::neg_p (r1max))
    1945                 :             :           {
    1946                 :      493119 :             widest_int shift = wi::exact_log2 (r2val);
    1947                 :      493119 :             if (shift != -1)
    1948                 :             :               {
    1949                 :             :                 // Handle division by a power of 2 as an rshift.
    1950                 :      154214 :                 bit_value_binop (RSHIFT_EXPR, sgn, width, val, mask,
    1951                 :             :                                  r1type_sgn, r1type_precision, r1val, r1mask,
    1952                 :             :                                  r2type_sgn, r2type_precision, shift, r2mask);
    1953                 :      154214 :                 return;
    1954                 :             :               }
    1955                 :      493119 :           }
    1956                 :     1352705 :         if (sgn == UNSIGNED
    1957                 :     1352705 :             || (!wi::neg_p (r1max) && !wi::neg_p (r2max)))
    1958                 :             :           {
    1959                 :             :             /* Confirm R2 has some bits set, to avoid division by zero.  */
    1960                 :      617223 :             widest_int r2min = wi::bit_and_not (r2val, r2mask);
    1961                 :      617223 :             if (r2min != 0)
    1962                 :             :               {
    1963                 :             :                 /* R1 / R2 is zero if R1 is always less than R2.  */
    1964                 :      337268 :                 if (wi::ltu_p (r1max, r2min))
    1965                 :             :                   {
    1966                 :        2684 :                     *mask = 0;
    1967                 :        2684 :                     *val = 0;
    1968                 :             :                   }
    1969                 :             :                 else
    1970                 :             :                   {
    1971                 :      334584 :                     widest_int upper
    1972                 :      334584 :                       = wi::udiv_trunc (wi::zext (r1max, width), r2min);
    1973                 :      334584 :                     unsigned int lzcount = wi::clz (upper);
    1974                 :      334584 :                     unsigned int bits = wi::get_precision (upper) - lzcount;
    1975                 :      334584 :                     *mask = wi::mask <widest_int> (bits, false);
    1976                 :      334584 :                     *val = 0;
    1977                 :      334584 :                   }
    1978                 :             :                }
    1979                 :      617223 :             }
    1980                 :     1506919 :         }
    1981                 :     1352705 :       break;
    1982                 :             : 
    1983                 :   198921152 :     default:;
    1984                 :             :     }
    1985                 :             : }
    1986                 :             : 
    1987                 :             : /* Return the propagation value when applying the operation CODE to
    1988                 :             :    the value RHS yielding type TYPE.  */
    1989                 :             : 
    1990                 :             : static ccp_prop_value_t
    1991                 :    26861573 : bit_value_unop (enum tree_code code, tree type, tree rhs)
    1992                 :             : {
    1993                 :    26861573 :   ccp_prop_value_t rval = get_value_for_expr (rhs, true);
    1994                 :    26861573 :   widest_int value, mask;
    1995                 :    26861573 :   ccp_prop_value_t val;
    1996                 :             : 
    1997                 :    26861573 :   if (rval.lattice_val == UNDEFINED)
    1998                 :           0 :     return rval;
    1999                 :             : 
    2000                 :    33592141 :   gcc_assert ((rval.lattice_val == CONSTANT
    2001                 :             :                && TREE_CODE (rval.value) == INTEGER_CST)
    2002                 :             :               || wi::sext (rval.mask, TYPE_PRECISION (TREE_TYPE (rhs))) == -1);
    2003                 :    53723146 :   bit_value_unop (code, TYPE_SIGN (type), TYPE_PRECISION (type), &value, &mask,
    2004                 :    26861573 :                   TYPE_SIGN (TREE_TYPE (rhs)), TYPE_PRECISION (TREE_TYPE (rhs)),
    2005                 :    53723146 :                   value_to_wide_int (rval), rval.mask);
    2006                 :    26861751 :   if (wi::sext (mask, TYPE_PRECISION (type)) != -1)
    2007                 :             :     {
    2008                 :    21086635 :       val.lattice_val = CONSTANT;
    2009                 :    21086635 :       val.mask = mask;
    2010                 :             :       /* ???  Delay building trees here.  */
    2011                 :    21086635 :       val.value = wide_int_to_tree (type, value);
    2012                 :             :     }
    2013                 :             :   else
    2014                 :             :     {
    2015                 :     5774938 :       val.lattice_val = VARYING;
    2016                 :     5774938 :       val.value = NULL_TREE;
    2017                 :     5774938 :       val.mask = -1;
    2018                 :             :     }
    2019                 :    26861573 :   return val;
    2020                 :    26861952 : }
    2021                 :             : 
    2022                 :             : /* Return the propagation value when applying the operation CODE to
    2023                 :             :    the values RHS1 and RHS2 yielding type TYPE.  */
    2024                 :             : 
    2025                 :             : static ccp_prop_value_t
    2026                 :   122391697 : bit_value_binop (enum tree_code code, tree type, tree rhs1, tree rhs2)
    2027                 :             : {
    2028                 :   122391697 :   ccp_prop_value_t r1val = get_value_for_expr (rhs1, true);
    2029                 :   122391697 :   ccp_prop_value_t r2val = get_value_for_expr (rhs2, true);
    2030                 :   122391697 :   widest_int value, mask;
    2031                 :   122391697 :   ccp_prop_value_t val;
    2032                 :             : 
    2033                 :   122391697 :   if (r1val.lattice_val == UNDEFINED
    2034                 :   122284150 :       || r2val.lattice_val == UNDEFINED)
    2035                 :             :     {
    2036                 :      112772 :       val.lattice_val = VARYING;
    2037                 :      112772 :       val.value = NULL_TREE;
    2038                 :      112772 :       val.mask = -1;
    2039                 :      112772 :       return val;
    2040                 :             :     }
    2041                 :             : 
    2042                 :   160796619 :   gcc_assert ((r1val.lattice_val == CONSTANT
    2043                 :             :                && TREE_CODE (r1val.value) == INTEGER_CST)
    2044                 :             :               || wi::sext (r1val.mask,
    2045                 :             :                            TYPE_PRECISION (TREE_TYPE (rhs1))) == -1);
    2046                 :   133576818 :   gcc_assert ((r2val.lattice_val == CONSTANT
    2047                 :             :                && TREE_CODE (r2val.value) == INTEGER_CST)
    2048                 :             :               || wi::sext (r2val.mask,
    2049                 :             :                            TYPE_PRECISION (TREE_TYPE (rhs2))) == -1);
    2050                 :   244557850 :   bit_value_binop (code, TYPE_SIGN (type), TYPE_PRECISION (type), &value, &mask,
    2051                 :   122278925 :                    TYPE_SIGN (TREE_TYPE (rhs1)), TYPE_PRECISION (TREE_TYPE (rhs1)),
    2052                 :   244558084 :                    value_to_wide_int (r1val), r1val.mask,
    2053                 :   122278925 :                    TYPE_SIGN (TREE_TYPE (rhs2)), TYPE_PRECISION (TREE_TYPE (rhs2)),
    2054                 :   244557850 :                    value_to_wide_int (r2val), r2val.mask);
    2055                 :             : 
    2056                 :             :   /* (x * x) & 2 == 0.  */
    2057                 :   122278925 :   if (code == MULT_EXPR && rhs1 == rhs2 && TYPE_PRECISION (type) > 1)
    2058                 :             :     {
    2059                 :      168153 :       widest_int m = 2;
    2060                 :      168153 :       if (wi::sext (mask, TYPE_PRECISION (type)) != -1)
    2061                 :         527 :         value = wi::bit_and_not (value, m);
    2062                 :             :       else
    2063                 :      167626 :         value = 0;
    2064                 :      168153 :       mask = wi::bit_and_not (mask, m);
    2065                 :      168153 :     }
    2066                 :             : 
    2067                 :   122278929 :   if (wi::sext (mask, TYPE_PRECISION (type)) != -1)
    2068                 :             :     {
    2069                 :   103090902 :       val.lattice_val = CONSTANT;
    2070                 :   103090902 :       val.mask = mask;
    2071                 :             :       /* ???  Delay building trees here.  */
    2072                 :   103090902 :       val.value = wide_int_to_tree (type, value);
    2073                 :             :     }
    2074                 :             :   else
    2075                 :             :     {
    2076                 :    19188023 :       val.lattice_val = VARYING;
    2077                 :    19188023 :       val.value = NULL_TREE;
    2078                 :    19188023 :       val.mask = -1;
    2079                 :             :     }
    2080                 :             :   return val;
    2081                 :   122391963 : }
    2082                 :             : 
    2083                 :             : /* Return the propagation value for __builtin_assume_aligned
    2084                 :             :    and functions with assume_aligned or alloc_aligned attribute.
    2085                 :             :    For __builtin_assume_aligned, ATTR is NULL_TREE,
    2086                 :             :    for assume_aligned attribute ATTR is non-NULL and ALLOC_ALIGNED
    2087                 :             :    is false, for alloc_aligned attribute ATTR is non-NULL and
    2088                 :             :    ALLOC_ALIGNED is true.  */
    2089                 :             : 
    2090                 :             : static ccp_prop_value_t
    2091                 :        6682 : bit_value_assume_aligned (gimple *stmt, tree attr, ccp_prop_value_t ptrval,
    2092                 :             :                           bool alloc_aligned)
    2093                 :             : {
    2094                 :        6682 :   tree align, misalign = NULL_TREE, type;
    2095                 :        6682 :   unsigned HOST_WIDE_INT aligni, misaligni = 0;
    2096                 :        6682 :   ccp_prop_value_t alignval;
    2097                 :        6682 :   widest_int value, mask;
    2098                 :        6682 :   ccp_prop_value_t val;
    2099                 :             : 
    2100                 :        6682 :   if (attr == NULL_TREE)
    2101                 :             :     {
    2102                 :        2769 :       tree ptr = gimple_call_arg (stmt, 0);
    2103                 :        2769 :       type = TREE_TYPE (ptr);
    2104                 :        2769 :       ptrval = get_value_for_expr (ptr, true);
    2105                 :             :     }
    2106                 :             :   else
    2107                 :             :     {
    2108                 :        3913 :       tree lhs = gimple_call_lhs (stmt);
    2109                 :        3913 :       type = TREE_TYPE (lhs);
    2110                 :             :     }
    2111                 :             : 
    2112                 :        6682 :   if (ptrval.lattice_val == UNDEFINED)
    2113                 :           0 :     return ptrval;
    2114                 :       12935 :   gcc_assert ((ptrval.lattice_val == CONSTANT
    2115                 :             :                && TREE_CODE (ptrval.value) == INTEGER_CST)
    2116                 :             :               || wi::sext (ptrval.mask, TYPE_PRECISION (type)) == -1);
    2117                 :        6682 :   if (attr == NULL_TREE)
    2118                 :             :     {
    2119                 :             :       /* Get aligni and misaligni from __builtin_assume_aligned.  */
    2120                 :        2769 :       align = gimple_call_arg (stmt, 1);
    2121                 :        2769 :       if (!tree_fits_uhwi_p (align))
    2122                 :          56 :         return ptrval;
    2123                 :        2713 :       aligni = tree_to_uhwi (align);
    2124                 :        2713 :       if (gimple_call_num_args (stmt) > 2)
    2125                 :             :         {
    2126                 :          36 :           misalign = gimple_call_arg (stmt, 2);
    2127                 :          36 :           if (!tree_fits_uhwi_p (misalign))
    2128                 :           2 :             return ptrval;
    2129                 :          34 :           misaligni = tree_to_uhwi (misalign);
    2130                 :             :         }
    2131                 :             :     }
    2132                 :             :   else
    2133                 :             :     {
    2134                 :             :       /* Get aligni and misaligni from assume_aligned or
    2135                 :             :          alloc_align attributes.  */
    2136                 :        3913 :       if (TREE_VALUE (attr) == NULL_TREE)
    2137                 :           0 :         return ptrval;
    2138                 :        3913 :       attr = TREE_VALUE (attr);
    2139                 :        3913 :       align = TREE_VALUE (attr);
    2140                 :        3913 :       if (!tree_fits_uhwi_p (align))
    2141                 :           0 :         return ptrval;
    2142                 :        3913 :       aligni = tree_to_uhwi (align);
    2143                 :        3913 :       if (alloc_aligned)
    2144                 :             :         {
    2145                 :        3871 :           if (aligni == 0 || aligni > gimple_call_num_args (stmt))
    2146                 :           0 :             return ptrval;
    2147                 :        3871 :           align = gimple_call_arg (stmt, aligni - 1);
    2148                 :        3871 :           if (!tree_fits_uhwi_p (align))
    2149                 :          42 :             return ptrval;
    2150                 :        3829 :           aligni = tree_to_uhwi (align);
    2151                 :             :         }
    2152                 :          42 :       else if (TREE_CHAIN (attr) && TREE_VALUE (TREE_CHAIN (attr)))
    2153                 :             :         {
    2154                 :          21 :           misalign = TREE_VALUE (TREE_CHAIN (attr));
    2155                 :          21 :           if (!tree_fits_uhwi_p (misalign))
    2156                 :           0 :             return ptrval;
    2157                 :          21 :           misaligni = tree_to_uhwi (misalign);
    2158                 :             :         }
    2159                 :             :     }
    2160                 :        6582 :   if (aligni <= 1 || (aligni & (aligni - 1)) != 0 || misaligni >= aligni)
    2161                 :         137 :     return ptrval;
    2162                 :             : 
    2163                 :        6445 :   align = build_int_cst_type (type, -aligni);
    2164                 :        6445 :   alignval = get_value_for_expr (align, true);
    2165                 :       12890 :   bit_value_binop (BIT_AND_EXPR, TYPE_SIGN (type), TYPE_PRECISION (type), &value, &mask,
    2166                 :       12890 :                    TYPE_SIGN (type), TYPE_PRECISION (type), value_to_wide_int (ptrval), ptrval.mask,
    2167                 :       12890 :                    TYPE_SIGN (type), TYPE_PRECISION (type), value_to_wide_int (alignval), alignval.mask);
    2168                 :             : 
    2169                 :        6445 :   if (wi::sext (mask, TYPE_PRECISION (type)) != -1)
    2170                 :             :     {
    2171                 :        6445 :       val.lattice_val = CONSTANT;
    2172                 :        6445 :       val.mask = mask;
    2173                 :        6445 :       gcc_assert ((mask.to_uhwi () & (aligni - 1)) == 0);
    2174                 :        6445 :       gcc_assert ((value.to_uhwi () & (aligni - 1)) == 0);
    2175                 :        6445 :       value |= misaligni;
    2176                 :             :       /* ???  Delay building trees here.  */
    2177                 :        6445 :       val.value = wide_int_to_tree (type, value);
    2178                 :             :     }
    2179                 :             :   else
    2180                 :             :     {
    2181                 :           0 :       val.lattice_val = VARYING;
    2182                 :           0 :       val.value = NULL_TREE;
    2183                 :           0 :       val.mask = -1;
    2184                 :             :     }
    2185                 :        6445 :   return val;
    2186                 :        6682 : }
    2187                 :             : 
    2188                 :             : /* Evaluate statement STMT.
    2189                 :             :    Valid only for assignments, calls, conditionals, and switches. */
    2190                 :             : 
    2191                 :             : static ccp_prop_value_t
    2192                 :   206991173 : evaluate_stmt (gimple *stmt)
    2193                 :             : {
    2194                 :   206991173 :   ccp_prop_value_t val;
    2195                 :   206991173 :   tree simplified = NULL_TREE;
    2196                 :   206991173 :   ccp_lattice_t likelyvalue = likely_value (stmt);
    2197                 :   206991173 :   bool is_constant = false;
    2198                 :   206991173 :   unsigned int align;
    2199                 :   206991173 :   bool ignore_return_flags = false;
    2200                 :             : 
    2201                 :   206991173 :   if (dump_file && (dump_flags & TDF_DETAILS))
    2202                 :             :     {
    2203                 :          64 :       fprintf (dump_file, "which is likely ");
    2204                 :          64 :       switch (likelyvalue)
    2205                 :             :         {
    2206                 :          64 :         case CONSTANT:
    2207                 :          64 :           fprintf (dump_file, "CONSTANT");
    2208                 :          64 :           break;
    2209                 :           0 :         case UNDEFINED:
    2210                 :           0 :           fprintf (dump_file, "UNDEFINED");
    2211                 :           0 :           break;
    2212                 :           0 :         case VARYING:
    2213                 :           0 :           fprintf (dump_file, "VARYING");
    2214                 :           0 :           break;
    2215                 :          64 :         default:;
    2216                 :             :         }
    2217                 :          64 :       fprintf (dump_file, "\n");
    2218                 :             :     }
    2219                 :             : 
    2220                 :             :   /* If the statement is likely to have a CONSTANT result, then try
    2221                 :             :      to fold the statement to determine the constant value.  */
    2222                 :             :   /* FIXME.  This is the only place that we call ccp_fold.
    2223                 :             :      Since likely_value never returns CONSTANT for calls, we will
    2224                 :             :      not attempt to fold them, including builtins that may profit.  */
    2225                 :   206991173 :   if (likelyvalue == CONSTANT)
    2226                 :             :     {
    2227                 :   206776105 :       fold_defer_overflow_warnings ();
    2228                 :   206776105 :       simplified = ccp_fold (stmt);
    2229                 :   206776105 :       if (simplified
    2230                 :    28401842 :           && TREE_CODE (simplified) == SSA_NAME)
    2231                 :             :         {
    2232                 :             :           /* We may not use values of something that may be simulated again,
    2233                 :             :              see valueize_op_1.  */
    2234                 :    14585805 :           if (SSA_NAME_IS_DEFAULT_DEF (simplified)
    2235                 :    14585805 :               || ! prop_simulate_again_p (SSA_NAME_DEF_STMT (simplified)))
    2236                 :             :             {
    2237                 :    11073073 :               ccp_prop_value_t *val = get_value (simplified);
    2238                 :    11073073 :               if (val && val->lattice_val != VARYING)
    2239                 :             :                 {
    2240                 :      485928 :                   fold_undefer_overflow_warnings (true, stmt, 0);
    2241                 :      485928 :                   return *val;
    2242                 :             :                 }
    2243                 :             :             }
    2244                 :             :           else
    2245                 :             :             /* We may also not place a non-valueized copy in the lattice
    2246                 :             :                as that might become stale if we never re-visit this stmt.  */
    2247                 :             :             simplified = NULL_TREE;
    2248                 :             :         }
    2249                 :    24403182 :       is_constant = simplified && is_gimple_min_invariant (simplified);
    2250                 :   206290177 :       fold_undefer_overflow_warnings (is_constant, stmt, 0);
    2251                 :   206290177 :       if (is_constant)
    2252                 :             :         {
    2253                 :             :           /* The statement produced a constant value.  */
    2254                 :    11339353 :           val.lattice_val = CONSTANT;
    2255                 :    11339353 :           val.value = simplified;
    2256                 :    11339353 :           val.mask = 0;
    2257                 :    11339353 :           return val;
    2258                 :             :         }
    2259                 :             :     }
    2260                 :             :   /* If the statement is likely to have a VARYING result, then do not
    2261                 :             :      bother folding the statement.  */
    2262                 :      215068 :   else if (likelyvalue == VARYING)
    2263                 :             :     {
    2264                 :      106176 :       enum gimple_code code = gimple_code (stmt);
    2265                 :      106176 :       if (code == GIMPLE_ASSIGN)
    2266                 :             :         {
    2267                 :         588 :           enum tree_code subcode = gimple_assign_rhs_code (stmt);
    2268                 :             : 
    2269                 :             :           /* Other cases cannot satisfy is_gimple_min_invariant
    2270                 :             :              without folding.  */
    2271                 :         588 :           if (get_gimple_rhs_class (subcode) == GIMPLE_SINGLE_RHS)
    2272                 :         588 :             simplified = gimple_assign_rhs1 (stmt);
    2273                 :             :         }
    2274                 :      105588 :       else if (code == GIMPLE_SWITCH)
    2275                 :           0 :         simplified = gimple_switch_index (as_a <gswitch *> (stmt));
    2276                 :             :       else
    2277                 :             :         /* These cannot satisfy is_gimple_min_invariant without folding.  */
    2278                 :      105588 :         gcc_assert (code == GIMPLE_CALL || code == GIMPLE_COND);
    2279                 :         588 :       is_constant = simplified && is_gimple_min_invariant (simplified);
    2280                 :           0 :       if (is_constant)
    2281                 :             :         {
    2282                 :             :           /* The statement produced a constant value.  */
    2283                 :           0 :           val.lattice_val = CONSTANT;
    2284                 :           0 :           val.value = simplified;
    2285                 :           0 :           val.mask = 0;
    2286                 :             :         }
    2287                 :             :     }
    2288                 :             :   /* If the statement result is likely UNDEFINED, make it so.  */
    2289                 :      108892 :   else if (likelyvalue == UNDEFINED)
    2290                 :             :     {
    2291                 :      108892 :       val.lattice_val = UNDEFINED;
    2292                 :      108892 :       val.value = NULL_TREE;
    2293                 :      108892 :       val.mask = 0;
    2294                 :      108892 :       return val;
    2295                 :             :     }
    2296                 :             : 
    2297                 :             :   /* Resort to simplification for bitwise tracking.  */
    2298                 :   195057000 :   if (flag_tree_bit_ccp
    2299                 :   194972995 :       && (likelyvalue == CONSTANT || is_gimple_call (stmt)
    2300                 :         588 :           || (gimple_assign_single_p (stmt)
    2301                 :         588 :               && gimple_assign_rhs_code (stmt) == ADDR_EXPR))
    2302                 :   390029746 :       && !is_constant)
    2303                 :             :     {
    2304                 :   194972746 :       enum gimple_code code = gimple_code (stmt);
    2305                 :   194972746 :       val.lattice_val = VARYING;
    2306                 :   194972746 :       val.value = NULL_TREE;
    2307                 :   194972746 :       val.mask = -1;
    2308                 :   194972746 :       if (code == GIMPLE_ASSIGN)
    2309                 :             :         {
    2310                 :   156426420 :           enum tree_code subcode = gimple_assign_rhs_code (stmt);
    2311                 :   156426420 :           tree rhs1 = gimple_assign_rhs1 (stmt);
    2312                 :   156426420 :           tree lhs = gimple_assign_lhs (stmt);
    2313                 :   312374121 :           if ((INTEGRAL_TYPE_P (TREE_TYPE (lhs))
    2314                 :    30263810 :                || POINTER_TYPE_P (TREE_TYPE (lhs)))
    2315                 :   306569941 :               && (INTEGRAL_TYPE_P (TREE_TYPE (rhs1))
    2316                 :    25847942 :                   || POINTER_TYPE_P (TREE_TYPE (rhs1))))
    2317                 :   150290986 :             switch (get_gimple_rhs_class (subcode))
    2318                 :             :               {
    2319                 :    34099932 :               case GIMPLE_SINGLE_RHS:
    2320                 :    34099932 :                 val = get_value_for_expr (rhs1, true);
    2321                 :    34099932 :                 break;
    2322                 :             : 
    2323                 :    26861573 :               case GIMPLE_UNARY_RHS:
    2324                 :    26861573 :                 val = bit_value_unop (subcode, TREE_TYPE (lhs), rhs1);
    2325                 :    26861573 :                 break;
    2326                 :             : 
    2327                 :    89317718 :               case GIMPLE_BINARY_RHS:
    2328                 :    89317718 :                 val = bit_value_binop (subcode, TREE_TYPE (lhs), rhs1,
    2329                 :    89317718 :                                        gimple_assign_rhs2 (stmt));
    2330                 :    89317718 :                 break;
    2331                 :             : 
    2332                 :             :               default:;
    2333                 :             :               }
    2334                 :             :         }
    2335                 :    38546326 :       else if (code == GIMPLE_COND)
    2336                 :             :         {
    2337                 :    34426498 :           enum tree_code code = gimple_cond_code (stmt);
    2338                 :    34426498 :           tree rhs1 = gimple_cond_lhs (stmt);
    2339                 :    34426498 :           tree rhs2 = gimple_cond_rhs (stmt);
    2340                 :    68319908 :           if (INTEGRAL_TYPE_P (TREE_TYPE (rhs1))
    2341                 :    41017113 :               || POINTER_TYPE_P (TREE_TYPE (rhs1)))
    2342                 :    33073979 :             val = bit_value_binop (code, TREE_TYPE (rhs1), rhs1, rhs2);
    2343                 :             :         }
    2344                 :     4119828 :       else if (gimple_call_builtin_p (stmt, BUILT_IN_NORMAL))
    2345                 :             :         {
    2346                 :     2256317 :           tree fndecl = gimple_call_fndecl (stmt);
    2347                 :     2256317 :           switch (DECL_FUNCTION_CODE (fndecl))
    2348                 :             :             {
    2349                 :      164478 :             case BUILT_IN_MALLOC:
    2350                 :      164478 :             case BUILT_IN_REALLOC:
    2351                 :      164478 :             case BUILT_IN_GOMP_REALLOC:
    2352                 :      164478 :             case BUILT_IN_CALLOC:
    2353                 :      164478 :             case BUILT_IN_STRDUP:
    2354                 :      164478 :             case BUILT_IN_STRNDUP:
    2355                 :      164478 :               val.lattice_val = CONSTANT;
    2356                 :      164478 :               val.value = build_int_cst (TREE_TYPE (gimple_get_lhs (stmt)), 0);
    2357                 :      166476 :               val.mask = ~((HOST_WIDE_INT) MALLOC_ABI_ALIGNMENT
    2358                 :      164478 :                            / BITS_PER_UNIT - 1);
    2359                 :      164478 :               break;
    2360                 :             : 
    2361                 :       52672 :             CASE_BUILT_IN_ALLOCA:
    2362                 :       91038 :               align = (DECL_FUNCTION_CODE (fndecl) == BUILT_IN_ALLOCA
    2363                 :       38370 :                        ? BIGGEST_ALIGNMENT
    2364                 :       14302 :                        : TREE_INT_CST_LOW (gimple_call_arg (stmt, 1)));
    2365                 :       52672 :               val.lattice_val = CONSTANT;
    2366                 :       52672 :               val.value = build_int_cst (TREE_TYPE (gimple_get_lhs (stmt)), 0);
    2367                 :       52672 :               val.mask = ~((HOST_WIDE_INT) align / BITS_PER_UNIT - 1);
    2368                 :       52672 :               break;
    2369                 :             : 
    2370                 :        2560 :             case BUILT_IN_ASSUME_ALIGNED:
    2371                 :        2560 :               val = bit_value_assume_aligned (stmt, NULL_TREE, val, false);
    2372                 :        2560 :               ignore_return_flags = true;
    2373                 :        2560 :               break;
    2374                 :             : 
    2375                 :         117 :             case BUILT_IN_ALIGNED_ALLOC:
    2376                 :         117 :             case BUILT_IN_GOMP_ALLOC:
    2377                 :         117 :               {
    2378                 :         117 :                 tree align = get_constant_value (gimple_call_arg (stmt, 0));
    2379                 :         117 :                 if (align
    2380                 :         109 :                     && tree_fits_uhwi_p (align))
    2381                 :             :                   {
    2382                 :         109 :                     unsigned HOST_WIDE_INT aligni = tree_to_uhwi (align);
    2383                 :         109 :                     if (aligni > 1
    2384                 :             :                         /* align must be power-of-two */
    2385                 :          93 :                         && (aligni & (aligni - 1)) == 0)
    2386                 :             :                       {
    2387                 :          93 :                         val.lattice_val = CONSTANT;
    2388                 :          93 :                         val.value = build_int_cst (ptr_type_node, 0);
    2389                 :          93 :                         val.mask = -aligni;
    2390                 :             :                       }
    2391                 :             :                   }
    2392                 :             :                 break;
    2393                 :             :               }
    2394                 :             : 
    2395                 :        5243 :             case BUILT_IN_BSWAP16:
    2396                 :        5243 :             case BUILT_IN_BSWAP32:
    2397                 :        5243 :             case BUILT_IN_BSWAP64:
    2398                 :        5243 :             case BUILT_IN_BSWAP128:
    2399                 :        5243 :               val = get_value_for_expr (gimple_call_arg (stmt, 0), true);
    2400                 :        5243 :               if (val.lattice_val == UNDEFINED)
    2401                 :             :                 break;
    2402                 :        5243 :               else if (val.lattice_val == CONSTANT
    2403                 :        2985 :                        && val.value
    2404                 :        2985 :                        && TREE_CODE (val.value) == INTEGER_CST)
    2405                 :             :                 {
    2406                 :        2985 :                   tree type = TREE_TYPE (gimple_call_lhs (stmt));
    2407                 :        2985 :                   int prec = TYPE_PRECISION (type);
    2408                 :        2985 :                   wide_int wval = wi::to_wide (val.value);
    2409                 :        2985 :                   val.value
    2410                 :        2985 :                     = wide_int_to_tree (type,
    2411                 :        5970 :                                         wi::bswap (wide_int::from (wval, prec,
    2412                 :             :                                                                    UNSIGNED)));
    2413                 :        2985 :                   val.mask
    2414                 :        5970 :                     = widest_int::from (wi::bswap (wide_int::from (val.mask,
    2415                 :             :                                                                    prec,
    2416                 :             :                                                                    UNSIGNED)),
    2417                 :        2985 :                                         UNSIGNED);
    2418                 :        2985 :                   if (wi::sext (val.mask, prec) != -1)
    2419                 :             :                     break;
    2420                 :        2985 :                 }
    2421                 :        2758 :               val.lattice_val = VARYING;
    2422                 :        2758 :               val.value = NULL_TREE;
    2423                 :        2758 :               val.mask = -1;
    2424                 :        2758 :               break;
    2425                 :             : 
    2426                 :           0 :             default:;
    2427                 :             :             }
    2428                 :             :         }
    2429                 :   194972746 :       if (is_gimple_call (stmt) && gimple_call_lhs (stmt))
    2430                 :             :         {
    2431                 :     4038370 :           tree fntype = gimple_call_fntype (stmt);
    2432                 :     4038370 :           if (fntype)
    2433                 :             :             {
    2434                 :     3594715 :               tree attrs = lookup_attribute ("assume_aligned",
    2435                 :     3594715 :                                              TYPE_ATTRIBUTES (fntype));
    2436                 :     3594715 :               if (attrs)
    2437                 :          42 :                 val = bit_value_assume_aligned (stmt, attrs, val, false);
    2438                 :     3594715 :               attrs = lookup_attribute ("alloc_align",
    2439                 :     3594715 :                                         TYPE_ATTRIBUTES (fntype));
    2440                 :     3594715 :               if (attrs)
    2441                 :        3871 :                 val = bit_value_assume_aligned (stmt, attrs, val, true);
    2442                 :             :             }
    2443                 :     4038370 :           int flags = ignore_return_flags
    2444                 :     4038370 :                       ? 0 : gimple_call_return_flags (as_a <gcall *> (stmt));
    2445                 :     4038370 :           if (flags & ERF_RETURNS_ARG
    2446                 :     4038370 :               && (flags & ERF_RETURN_ARG_MASK) < gimple_call_num_args (stmt))
    2447                 :             :             {
    2448                 :      136435 :               val = get_value_for_expr
    2449                 :      272870 :                          (gimple_call_arg (stmt,
    2450                 :      136435 :                                            flags & ERF_RETURN_ARG_MASK), true);
    2451                 :             :             }
    2452                 :             :         }
    2453                 :   194972746 :       is_constant = (val.lattice_val == CONSTANT);
    2454                 :             :     }
    2455                 :             : 
    2456                 :   195057000 :   if (flag_tree_bit_ccp
    2457                 :   194972995 :       && ((is_constant && TREE_CODE (val.value) == INTEGER_CST)
    2458                 :             :           || !is_constant)
    2459                 :   194972995 :       && gimple_get_lhs (stmt)
    2460                 :   355522039 :       && TREE_CODE (gimple_get_lhs (stmt)) == SSA_NAME)
    2461                 :             :     {
    2462                 :   160465039 :       tree lhs = gimple_get_lhs (stmt);
    2463                 :   160465039 :       wide_int nonzero_bits = get_nonzero_bits (lhs);
    2464                 :   160465039 :       if (nonzero_bits != -1)
    2465                 :             :         {
    2466                 :    44790322 :           if (!is_constant)
    2467                 :             :             {
    2468                 :     2408332 :               val.lattice_val = CONSTANT;
    2469                 :     2408332 :               val.value = build_zero_cst (TREE_TYPE (lhs));
    2470                 :     2408332 :               val.mask = extend_mask (nonzero_bits, TYPE_SIGN (TREE_TYPE (lhs)));
    2471                 :     2408332 :               is_constant = true;
    2472                 :             :             }
    2473                 :             :           else
    2474                 :             :             {
    2475                 :    42382075 :               if (wi::bit_and_not (wi::to_wide (val.value), nonzero_bits) != 0)
    2476                 :       43599 :                 val.value = wide_int_to_tree (TREE_TYPE (lhs),
    2477                 :             :                                               nonzero_bits
    2478                 :       87198 :                                               & wi::to_wide (val.value));
    2479                 :    42381990 :               if (nonzero_bits == 0)
    2480                 :         106 :                 val.mask = 0;
    2481                 :             :               else
    2482                 :    84763850 :                 val.mask = val.mask & extend_mask (nonzero_bits,
    2483                 :    84763768 :                                                    TYPE_SIGN (TREE_TYPE (lhs)));
    2484                 :             :             }
    2485                 :             :         }
    2486                 :   160465039 :     }
    2487                 :             : 
    2488                 :             :   /* The statement produced a nonconstant value.  */
    2489                 :   195057000 :   if (!is_constant)
    2490                 :             :     {
    2491                 :             :       /* The statement produced a copy.  */
    2492                 :    12625481 :       if (simplified && TREE_CODE (simplified) == SSA_NAME
    2493                 :    75700466 :           && !SSA_NAME_OCCURS_IN_ABNORMAL_PHI (simplified))
    2494                 :             :         {
    2495                 :    10570546 :           val.lattice_val = CONSTANT;
    2496                 :    10570546 :           val.value = simplified;
    2497                 :    10570546 :           val.mask = -1;
    2498                 :             :         }
    2499                 :             :       /* The statement is VARYING.  */
    2500                 :             :       else
    2501                 :             :         {
    2502                 :    54557761 :           val.lattice_val = VARYING;
    2503                 :    54557761 :           val.value = NULL_TREE;
    2504                 :    54557761 :           val.mask = -1;
    2505                 :             :         }
    2506                 :             :     }
    2507                 :             : 
    2508                 :   195057000 :   return val;
    2509                 :   206991173 : }
    2510                 :             : 
    2511                 :             : typedef hash_table<nofree_ptr_hash<gimple> > gimple_htab;
    2512                 :             : 
    2513                 :             : /* Given a BUILT_IN_STACK_SAVE value SAVED_VAL, insert a clobber of VAR before
    2514                 :             :    each matching BUILT_IN_STACK_RESTORE.  Mark visited phis in VISITED.  */
    2515                 :             : 
    2516                 :             : static void
    2517                 :         451 : insert_clobber_before_stack_restore (tree saved_val, tree var,
    2518                 :             :                                      gimple_htab **visited)
    2519                 :             : {
    2520                 :         451 :   gimple *stmt;
    2521                 :         451 :   gassign *clobber_stmt;
    2522                 :         451 :   tree clobber;
    2523                 :         451 :   imm_use_iterator iter;
    2524                 :         451 :   gimple_stmt_iterator i;
    2525                 :         451 :   gimple **slot;
    2526                 :             : 
    2527                 :         913 :   FOR_EACH_IMM_USE_STMT (stmt, iter, saved_val)
    2528                 :         462 :     if (gimple_call_builtin_p (stmt, BUILT_IN_STACK_RESTORE))
    2529                 :             :       {
    2530                 :         449 :         clobber = build_clobber (TREE_TYPE (var), CLOBBER_STORAGE_END);
    2531                 :         449 :         clobber_stmt = gimple_build_assign (var, clobber);
    2532                 :             : 
    2533                 :         449 :         i = gsi_for_stmt (stmt);
    2534                 :         449 :         gsi_insert_before (&i, clobber_stmt, GSI_SAME_STMT);
    2535                 :             :       }
    2536                 :          13 :     else if (gimple_code (stmt) == GIMPLE_PHI)
    2537                 :             :       {
    2538                 :          12 :         if (!*visited)
    2539                 :          12 :           *visited = new gimple_htab (10);
    2540                 :             : 
    2541                 :          12 :         slot = (*visited)->find_slot (stmt, INSERT);
    2542                 :          12 :         if (*slot != NULL)
    2543                 :           0 :           continue;
    2544                 :             : 
    2545                 :          12 :         *slot = stmt;
    2546                 :          12 :         insert_clobber_before_stack_restore (gimple_phi_result (stmt), var,
    2547                 :             :                                              visited);
    2548                 :             :       }
    2549                 :           1 :     else if (gimple_assign_ssa_name_copy_p (stmt))
    2550                 :           0 :       insert_clobber_before_stack_restore (gimple_assign_lhs (stmt), var,
    2551                 :         451 :                                            visited);
    2552                 :         451 : }
    2553                 :             : 
    2554                 :             : /* Advance the iterator to the previous non-debug gimple statement in the same
    2555                 :             :    or dominating basic block.  */
    2556                 :             : 
    2557                 :             : static inline void
    2558                 :       10501 : gsi_prev_dom_bb_nondebug (gimple_stmt_iterator *i)
    2559                 :             : {
    2560                 :       10501 :   basic_block dom;
    2561                 :             : 
    2562                 :       10501 :   gsi_prev_nondebug (i);
    2563                 :       21214 :   while (gsi_end_p (*i))
    2564                 :             :     {
    2565                 :         212 :       dom = get_immediate_dominator (CDI_DOMINATORS, gsi_bb (*i));
    2566                 :         212 :       if (dom == NULL || dom == ENTRY_BLOCK_PTR_FOR_FN (cfun))
    2567                 :             :         return;
    2568                 :             : 
    2569                 :         424 :       *i = gsi_last_bb (dom);
    2570                 :             :     }
    2571                 :             : }
    2572                 :             : 
    2573                 :             : /* Find a BUILT_IN_STACK_SAVE dominating gsi_stmt (I), and insert
    2574                 :             :    a clobber of VAR before each matching BUILT_IN_STACK_RESTORE.
    2575                 :             : 
    2576                 :             :    It is possible that BUILT_IN_STACK_SAVE cannot be found in a dominator when
    2577                 :             :    a previous pass (such as DOM) duplicated it along multiple paths to a BB.
    2578                 :             :    In that case the function gives up without inserting the clobbers.  */
    2579                 :             : 
    2580                 :             : static void
    2581                 :         439 : insert_clobbers_for_var (gimple_stmt_iterator i, tree var)
    2582                 :             : {
    2583                 :         439 :   gimple *stmt;
    2584                 :         439 :   tree saved_val;
    2585                 :         439 :   gimple_htab *visited = NULL;
    2586                 :             : 
    2587                 :       10940 :   for (; !gsi_end_p (i); gsi_prev_dom_bb_nondebug (&i))
    2588                 :             :     {
    2589                 :       10940 :       stmt = gsi_stmt (i);
    2590                 :             : 
    2591                 :       10940 :       if (!gimple_call_builtin_p (stmt, BUILT_IN_STACK_SAVE))
    2592                 :       10501 :         continue;
    2593                 :             : 
    2594                 :         439 :       saved_val = gimple_call_lhs (stmt);
    2595                 :         439 :       if (saved_val == NULL_TREE)
    2596                 :           0 :         continue;
    2597                 :             : 
    2598                 :         439 :       insert_clobber_before_stack_restore (saved_val, var, &visited);
    2599                 :         439 :       break;
    2600                 :             :     }
    2601                 :             : 
    2602                 :         439 :   delete visited;
    2603                 :         439 : }
    2604                 :             : 
    2605                 :             : /* Detects a __builtin_alloca_with_align with constant size argument.  Declares
    2606                 :             :    fixed-size array and returns the address, if found, otherwise returns
    2607                 :             :    NULL_TREE.  */
    2608                 :             : 
    2609                 :             : static tree
    2610                 :       11666 : fold_builtin_alloca_with_align (gimple *stmt)
    2611                 :             : {
    2612                 :       11666 :   unsigned HOST_WIDE_INT size, threshold, n_elem;
    2613                 :       11666 :   tree lhs, arg, block, var, elem_type, array_type;
    2614                 :             : 
    2615                 :             :   /* Get lhs.  */
    2616                 :       11666 :   lhs = gimple_call_lhs (stmt);
    2617                 :       11666 :   if (lhs == NULL_TREE)
    2618                 :             :     return NULL_TREE;
    2619                 :             : 
    2620                 :             :   /* Detect constant argument.  */
    2621                 :       11666 :   arg = get_constant_value (gimple_call_arg (stmt, 0));
    2622                 :       11666 :   if (arg == NULL_TREE
    2623                 :         941 :       || TREE_CODE (arg) != INTEGER_CST
    2624                 :         941 :       || !tree_fits_uhwi_p (arg))
    2625                 :             :     return NULL_TREE;
    2626                 :             : 
    2627                 :         941 :   size = tree_to_uhwi (arg);
    2628                 :             : 
    2629                 :             :   /* Heuristic: don't fold large allocas.  */
    2630                 :         941 :   threshold = (unsigned HOST_WIDE_INT)param_large_stack_frame;
    2631                 :             :   /* In case the alloca is located at function entry, it has the same lifetime
    2632                 :             :      as a declared array, so we allow a larger size.  */
    2633                 :         941 :   block = gimple_block (stmt);
    2634                 :         941 :   if (!(cfun->after_inlining
    2635                 :         579 :         && block
    2636                 :         551 :         && TREE_CODE (BLOCK_SUPERCONTEXT (block)) == FUNCTION_DECL))
    2637                 :         572 :     threshold /= 10;
    2638                 :         941 :   if (size > threshold)
    2639                 :             :     return NULL_TREE;
    2640                 :             : 
    2641                 :             :   /* We have to be able to move points-to info.  We used to assert
    2642                 :             :      that we can but IPA PTA might end up with two UIDs here
    2643                 :             :      as it might need to handle more than one instance being
    2644                 :             :      live at the same time.  Instead of trying to detect this case
    2645                 :             :      (using the first UID would be OK) just give up for now.  */
    2646                 :         487 :   struct ptr_info_def *pi = SSA_NAME_PTR_INFO (lhs);
    2647                 :         487 :   unsigned uid = 0;
    2648                 :         487 :   if (pi != NULL
    2649                 :         347 :       && !pi->pt.anything
    2650                 :         675 :       && !pt_solution_singleton_or_null_p (&pi->pt, &uid))
    2651                 :             :     return NULL_TREE;
    2652                 :             : 
    2653                 :             :   /* Declare array.  */
    2654                 :         439 :   elem_type = build_nonstandard_integer_type (BITS_PER_UNIT, 1);
    2655                 :         439 :   n_elem = size * 8 / BITS_PER_UNIT;
    2656                 :         439 :   array_type = build_array_type_nelts (elem_type, n_elem);
    2657                 :             : 
    2658                 :         439 :   if (tree ssa_name = SSA_NAME_IDENTIFIER (lhs))
    2659                 :             :     {
    2660                 :             :       /* Give the temporary a name derived from the name of the VLA
    2661                 :             :          declaration so it can be referenced in diagnostics.  */
    2662                 :         393 :       const char *name = IDENTIFIER_POINTER (ssa_name);
    2663                 :         393 :       var = create_tmp_var (array_type, name);
    2664                 :             :     }
    2665                 :             :   else
    2666                 :          46 :     var = create_tmp_var (array_type);
    2667                 :             : 
    2668                 :         439 :   if (gimple *lhsdef = SSA_NAME_DEF_STMT (lhs))
    2669                 :             :     {
    2670                 :             :       /* Set the temporary's location to that of the VLA declaration
    2671                 :             :          so it can be pointed to in diagnostics.  */
    2672                 :         439 :       location_t loc = gimple_location (lhsdef);
    2673                 :         439 :       DECL_SOURCE_LOCATION (var) = loc;
    2674                 :             :     }
    2675                 :             : 
    2676                 :         439 :   SET_DECL_ALIGN (var, TREE_INT_CST_LOW (gimple_call_arg (stmt, 1)));
    2677                 :         439 :   if (uid != 0)
    2678                 :         140 :     SET_DECL_PT_UID (var, uid);
    2679                 :             : 
    2680                 :             :   /* Fold alloca to the address of the array.  */
    2681                 :         439 :   return fold_convert (TREE_TYPE (lhs), build_fold_addr_expr (var));
    2682                 :             : }
    2683                 :             : 
    2684                 :             : /* Fold the stmt at *GSI with CCP specific information that propagating
    2685                 :             :    and regular folding does not catch.  */
    2686                 :             : 
    2687                 :             : bool
    2688                 :   275514391 : ccp_folder::fold_stmt (gimple_stmt_iterator *gsi)
    2689                 :             : {
    2690                 :   275514391 :   gimple *stmt = gsi_stmt (*gsi);
    2691                 :             : 
    2692                 :   275514391 :   switch (gimple_code (stmt))
    2693                 :             :     {
    2694                 :    15879161 :     case GIMPLE_COND:
    2695                 :    15879161 :       {
    2696                 :    15879161 :         gcond *cond_stmt = as_a <gcond *> (stmt);
    2697                 :    15879161 :         ccp_prop_value_t val;
    2698                 :             :         /* Statement evaluation will handle type mismatches in constants
    2699                 :             :            more gracefully than the final propagation.  This allows us to
    2700                 :             :            fold more conditionals here.  */
    2701                 :    15879161 :         val = evaluate_stmt (stmt);
    2702                 :    15879161 :         if (val.lattice_val != CONSTANT
    2703                 :    15879161 :             || val.mask != 0)
    2704                 :    15574348 :           return false;
    2705                 :             : 
    2706                 :      304813 :         if (dump_file)
    2707                 :             :           {
    2708                 :          26 :             fprintf (dump_file, "Folding predicate ");
    2709                 :          26 :             print_gimple_expr (dump_file, stmt, 0);
    2710                 :          26 :             fprintf (dump_file, " to ");
    2711                 :          26 :             print_generic_expr (dump_file, val.value);
    2712                 :          26 :             fprintf (dump_file, "\n");
    2713                 :             :           }
    2714                 :             : 
    2715                 :      304813 :         if (integer_zerop (val.value))
    2716                 :      238260 :           gimple_cond_make_false (cond_stmt);
    2717                 :             :         else
    2718                 :       66553 :           gimple_cond_make_true (cond_stmt);
    2719                 :             : 
    2720                 :             :         return true;
    2721                 :    15879161 :       }
    2722                 :             : 
    2723                 :    20892004 :     case GIMPLE_CALL:
    2724                 :    20892004 :       {
    2725                 :    20892004 :         tree lhs = gimple_call_lhs (stmt);
    2726                 :    20892004 :         int flags = gimple_call_flags (stmt);
    2727                 :    20892004 :         tree val;
    2728                 :    20892004 :         tree argt;
    2729                 :    20892004 :         bool changed = false;
    2730                 :    20892004 :         unsigned i;
    2731                 :             : 
    2732                 :             :         /* If the call was folded into a constant make sure it goes
    2733                 :             :            away even if we cannot propagate into all uses because of
    2734                 :             :            type issues.  */
    2735                 :    20892004 :         if (lhs
    2736                 :     8183500 :             && TREE_CODE (lhs) == SSA_NAME
    2737                 :     6878406 :             && (val = get_constant_value (lhs))
    2738                 :             :             /* Don't optimize away calls that have side-effects.  */
    2739                 :          15 :             && (flags & (ECF_CONST|ECF_PURE)) != 0
    2740                 :    20892004 :             && (flags & ECF_LOOPING_CONST_OR_PURE) == 0)
    2741                 :             :           {
    2742                 :           0 :             tree new_rhs = unshare_expr (val);
    2743                 :           0 :             if (!useless_type_conversion_p (TREE_TYPE (lhs),
    2744                 :           0 :                                             TREE_TYPE (new_rhs)))
    2745                 :           0 :               new_rhs = fold_convert (TREE_TYPE (lhs), new_rhs);
    2746                 :           0 :             gimplify_and_update_call_from_tree (gsi, new_rhs);
    2747                 :           0 :             return true;
    2748                 :             :           }
    2749                 :             : 
    2750                 :             :         /* Internal calls provide no argument types, so the extra laxity
    2751                 :             :            for normal calls does not apply.  */
    2752                 :    20892004 :         if (gimple_call_internal_p (stmt))
    2753                 :             :           return false;
    2754                 :             : 
    2755                 :             :         /* The heuristic of fold_builtin_alloca_with_align differs before and
    2756                 :             :            after inlining, so we don't require the arg to be changed into a
    2757                 :             :            constant for folding, but just to be constant.  */
    2758                 :    20383564 :         if (gimple_call_builtin_p (stmt, BUILT_IN_ALLOCA_WITH_ALIGN)
    2759                 :    20383564 :             || gimple_call_builtin_p (stmt, BUILT_IN_ALLOCA_WITH_ALIGN_AND_MAX))
    2760                 :             :           {
    2761                 :       11666 :             tree new_rhs = fold_builtin_alloca_with_align (stmt);
    2762                 :       11666 :             if (new_rhs)
    2763                 :             :               {
    2764                 :         439 :                 gimplify_and_update_call_from_tree (gsi, new_rhs);
    2765                 :         439 :                 tree var = TREE_OPERAND (TREE_OPERAND (new_rhs, 0),0);
    2766                 :         439 :                 insert_clobbers_for_var (*gsi, var);
    2767                 :         439 :                 return true;
    2768                 :             :               }
    2769                 :             :           }
    2770                 :             : 
    2771                 :             :         /* If there's no extra info from an assume_aligned call,
    2772                 :             :            drop it so it doesn't act as otherwise useless dataflow
    2773                 :             :            barrier.  */
    2774                 :    20383125 :         if (gimple_call_builtin_p (stmt, BUILT_IN_ASSUME_ALIGNED))
    2775                 :             :           {
    2776                 :        2560 :             tree ptr = gimple_call_arg (stmt, 0);
    2777                 :        2560 :             ccp_prop_value_t ptrval = get_value_for_expr (ptr, true);
    2778                 :        2560 :             if (ptrval.lattice_val == CONSTANT
    2779                 :         209 :                 && TREE_CODE (ptrval.value) == INTEGER_CST
    2780                 :        2769 :                 && ptrval.mask != 0)
    2781                 :             :               {
    2782                 :         209 :                 ccp_prop_value_t val
    2783                 :         209 :                   = bit_value_assume_aligned (stmt, NULL_TREE, ptrval, false);
    2784                 :         209 :                 unsigned int ptralign = least_bit_hwi (ptrval.mask.to_uhwi ());
    2785                 :         209 :                 unsigned int align = least_bit_hwi (val.mask.to_uhwi ());
    2786                 :         209 :                 if (ptralign == align
    2787                 :         209 :                     && ((TREE_INT_CST_LOW (ptrval.value) & (align - 1))
    2788                 :         203 :                         == (TREE_INT_CST_LOW (val.value) & (align - 1))))
    2789                 :             :                   {
    2790                 :         203 :                     replace_call_with_value (gsi, ptr);
    2791                 :         203 :                     return true;
    2792                 :             :                   }
    2793                 :         209 :               }
    2794                 :        2560 :           }
    2795                 :             : 
    2796                 :             :         /* Propagate into the call arguments.  Compared to replace_uses_in
    2797                 :             :            this can use the argument slot types for type verification
    2798                 :             :            instead of the current argument type.  We also can safely
    2799                 :             :            drop qualifiers here as we are dealing with constants anyway.  */
    2800                 :    20382922 :         argt = TYPE_ARG_TYPES (gimple_call_fntype (stmt));
    2801                 :    57651364 :         for (i = 0; i < gimple_call_num_args (stmt) && argt;
    2802                 :    37268442 :              ++i, argt = TREE_CHAIN (argt))
    2803                 :             :           {
    2804                 :    37268442 :             tree arg = gimple_call_arg (stmt, i);
    2805                 :    37268442 :             if (TREE_CODE (arg) == SSA_NAME
    2806                 :    14342584 :                 && (val = get_constant_value (arg))
    2807                 :    37268459 :                 && useless_type_conversion_p
    2808                 :          17 :                      (TYPE_MAIN_VARIANT (TREE_VALUE (argt)),
    2809                 :          17 :                       TYPE_MAIN_VARIANT (TREE_TYPE (val))))
    2810                 :             :               {
    2811                 :          17 :                 gimple_call_set_arg (stmt, i, unshare_expr (val));
    2812                 :          17 :                 changed = true;
    2813                 :             :               }
    2814                 :             :           }
    2815                 :             : 
    2816                 :             :         return changed;
    2817                 :             :       }
    2818                 :             : 
    2819                 :    94205221 :     case GIMPLE_ASSIGN:
    2820                 :    94205221 :       {
    2821                 :    94205221 :         tree lhs = gimple_assign_lhs (stmt);
    2822                 :    94205221 :         tree val;
    2823                 :             : 
    2824                 :             :         /* If we have a load that turned out to be constant replace it
    2825                 :             :            as we cannot propagate into all uses in all cases.  */
    2826                 :    94205221 :         if (gimple_assign_single_p (stmt)
    2827                 :    63078476 :             && TREE_CODE (lhs) == SSA_NAME
    2828                 :   123240577 :             && (val = get_constant_value (lhs)))
    2829                 :             :           {
    2830                 :        5140 :             tree rhs = unshare_expr (val);
    2831                 :        5140 :             if (!useless_type_conversion_p (TREE_TYPE (lhs), TREE_TYPE (rhs)))
    2832                 :           0 :               rhs = fold_build1 (VIEW_CONVERT_EXPR, TREE_TYPE (lhs), rhs);
    2833                 :        5140 :             gimple_assign_set_rhs_from_tree (gsi, rhs);
    2834                 :        5140 :             return true;
    2835                 :             :           }
    2836                 :             : 
    2837                 :             :         return false;
    2838                 :             :       }
    2839                 :             : 
    2840                 :             :     default:
    2841                 :             :       return false;
    2842                 :             :     }
    2843                 :             : }
    2844                 :             : 
    2845                 :             : /* Visit the assignment statement STMT.  Set the value of its LHS to the
    2846                 :             :    value computed by the RHS and store LHS in *OUTPUT_P.  If STMT
    2847                 :             :    creates virtual definitions, set the value of each new name to that
    2848                 :             :    of the RHS (if we can derive a constant out of the RHS).
    2849                 :             :    Value-returning call statements also perform an assignment, and
    2850                 :             :    are handled here.  */
    2851                 :             : 
    2852                 :             : static enum ssa_prop_result
    2853                 :   172052937 : visit_assignment (gimple *stmt, tree *output_p)
    2854                 :             : {
    2855                 :   172052937 :   ccp_prop_value_t val;
    2856                 :   172052937 :   enum ssa_prop_result retval = SSA_PROP_NOT_INTERESTING;
    2857                 :             : 
    2858                 :   172052937 :   tree lhs = gimple_get_lhs (stmt);
    2859                 :   172052937 :   if (TREE_CODE (lhs) == SSA_NAME)
    2860                 :             :     {
    2861                 :             :       /* Evaluate the statement, which could be
    2862                 :             :          either a GIMPLE_ASSIGN or a GIMPLE_CALL.  */
    2863                 :   170637017 :       val = evaluate_stmt (stmt);
    2864                 :             : 
    2865                 :             :       /* If STMT is an assignment to an SSA_NAME, we only have one
    2866                 :             :          value to set.  */
    2867                 :   170637017 :       if (set_lattice_value (lhs, &val))
    2868                 :             :         {
    2869                 :   159104039 :           *output_p = lhs;
    2870                 :   159104039 :           if (val.lattice_val == VARYING)
    2871                 :             :             retval = SSA_PROP_VARYING;
    2872                 :             :           else
    2873                 :   107219651 :             retval = SSA_PROP_INTERESTING;
    2874                 :             :         }
    2875                 :             :     }
    2876                 :             : 
    2877                 :   172052937 :   return retval;
    2878                 :   172052937 : }
    2879                 :             : 
    2880                 :             : 
    2881                 :             : /* Visit the conditional statement STMT.  Return SSA_PROP_INTERESTING
    2882                 :             :    if it can determine which edge will be taken.  Otherwise, return
    2883                 :             :    SSA_PROP_VARYING.  */
    2884                 :             : 
    2885                 :             : static enum ssa_prop_result
    2886                 :    20474995 : visit_cond_stmt (gimple *stmt, edge *taken_edge_p)
    2887                 :             : {
    2888                 :    20474995 :   ccp_prop_value_t val;
    2889                 :    20474995 :   basic_block block;
    2890                 :             : 
    2891                 :    20474995 :   block = gimple_bb (stmt);
    2892                 :    20474995 :   val = evaluate_stmt (stmt);
    2893                 :    20474995 :   if (val.lattice_val != CONSTANT
    2894                 :    20474995 :       || val.mask != 0)
    2895                 :    15587799 :     return SSA_PROP_VARYING;
    2896                 :             : 
    2897                 :             :   /* Find which edge out of the conditional block will be taken and add it
    2898                 :             :      to the worklist.  If no single edge can be determined statically,
    2899                 :             :      return SSA_PROP_VARYING to feed all the outgoing edges to the
    2900                 :             :      propagation engine.  */
    2901                 :     4887196 :   *taken_edge_p = find_taken_edge (block, val.value);
    2902                 :     4887196 :   if (*taken_edge_p)
    2903                 :             :     return SSA_PROP_INTERESTING;
    2904                 :             :   else
    2905                 :             :     return SSA_PROP_VARYING;
    2906                 :    20474995 : }
    2907                 :             : 
    2908                 :             : 
    2909                 :             : /* Evaluate statement STMT.  If the statement produces an output value and
    2910                 :             :    its evaluation changes the lattice value of its output, return
    2911                 :             :    SSA_PROP_INTERESTING and set *OUTPUT_P to the SSA_NAME holding the
    2912                 :             :    output value.
    2913                 :             : 
    2914                 :             :    If STMT is a conditional branch and we can determine its truth
    2915                 :             :    value, set *TAKEN_EDGE_P accordingly.  If STMT produces a varying
    2916                 :             :    value, return SSA_PROP_VARYING.  */
    2917                 :             : 
    2918                 :             : enum ssa_prop_result
    2919                 :   202920596 : ccp_propagate::visit_stmt (gimple *stmt, edge *taken_edge_p, tree *output_p)
    2920                 :             : {
    2921                 :   202920596 :   tree def;
    2922                 :   202920596 :   ssa_op_iter iter;
    2923                 :             : 
    2924                 :   202920596 :   if (dump_file && (dump_flags & TDF_DETAILS))
    2925                 :             :     {
    2926                 :          72 :       fprintf (dump_file, "\nVisiting statement:\n");
    2927                 :          72 :       print_gimple_stmt (dump_file, stmt, 0, dump_flags);
    2928                 :             :     }
    2929                 :             : 
    2930                 :   202920596 :   switch (gimple_code (stmt))
    2931                 :             :     {
    2932                 :   167211431 :       case GIMPLE_ASSIGN:
    2933                 :             :         /* If the statement is an assignment that produces a single
    2934                 :             :            output value, evaluate its RHS to see if the lattice value of
    2935                 :             :            its output has changed.  */
    2936                 :   167211431 :         return visit_assignment (stmt, output_p);
    2937                 :             : 
    2938                 :     9261531 :       case GIMPLE_CALL:
    2939                 :             :         /* A value-returning call also performs an assignment.  */
    2940                 :     9261531 :         if (gimple_call_lhs (stmt) != NULL_TREE)
    2941                 :     4841506 :           return visit_assignment (stmt, output_p);
    2942                 :             :         break;
    2943                 :             : 
    2944                 :    20474995 :       case GIMPLE_COND:
    2945                 :    20474995 :       case GIMPLE_SWITCH:
    2946                 :             :         /* If STMT is a conditional branch, see if we can determine
    2947                 :             :            which branch will be taken.   */
    2948                 :             :         /* FIXME.  It appears that we should be able to optimize
    2949                 :             :            computed GOTOs here as well.  */
    2950                 :    20474995 :         return visit_cond_stmt (stmt, taken_edge_p);
    2951                 :             : 
    2952                 :             :       default:
    2953                 :             :         break;
    2954                 :             :     }
    2955                 :             : 
    2956                 :             :   /* Any other kind of statement is not interesting for constant
    2957                 :             :      propagation and, therefore, not worth simulating.  */
    2958                 :    10392664 :   if (dump_file && (dump_flags & TDF_DETAILS))
    2959                 :          15 :     fprintf (dump_file, "No interesting values produced.  Marked VARYING.\n");
    2960                 :             : 
    2961                 :             :   /* Definitions made by statements other than assignments to
    2962                 :             :      SSA_NAMEs represent unknown modifications to their outputs.
    2963                 :             :      Mark them VARYING.  */
    2964                 :    14594050 :   FOR_EACH_SSA_TREE_OPERAND (def, stmt, iter, SSA_OP_ALL_DEFS)
    2965                 :     4201386 :     set_value_varying (def);
    2966                 :             : 
    2967                 :             :   return SSA_PROP_VARYING;
    2968                 :             : }
    2969                 :             : 
    2970                 :             : 
    2971                 :             : /* Main entry point for SSA Conditional Constant Propagation.  If NONZERO_P,
    2972                 :             :    record nonzero bits.  */
    2973                 :             : 
    2974                 :             : static unsigned int
    2975                 :     5103437 : do_ssa_ccp (bool nonzero_p)
    2976                 :             : {
    2977                 :     5103437 :   unsigned int todo = 0;
    2978                 :     5103437 :   calculate_dominance_info (CDI_DOMINATORS);
    2979                 :             : 
    2980                 :     5103437 :   ccp_initialize ();
    2981                 :     5103437 :   class ccp_propagate ccp_propagate;
    2982                 :     5103437 :   ccp_propagate.ssa_propagate ();
    2983                 :    10110533 :   if (ccp_finalize (nonzero_p || flag_ipa_bit_cp))
    2984                 :             :     {
    2985                 :     1459739 :       todo = (TODO_cleanup_cfg | TODO_update_ssa);
    2986                 :             : 
    2987                 :             :       /* ccp_finalize does not preserve loop-closed ssa.  */
    2988                 :     1459739 :       loops_state_clear (LOOP_CLOSED_SSA);
    2989                 :             :     }
    2990                 :             : 
    2991                 :     5103437 :   free_dominance_info (CDI_DOMINATORS);
    2992                 :     5103437 :   return todo;
    2993                 :     5103437 : }
    2994                 :             : 
    2995                 :             : 
    2996                 :             : namespace {
    2997                 :             : 
    2998                 :             : const pass_data pass_data_ccp =
    2999                 :             : {
    3000                 :             :   GIMPLE_PASS, /* type */
    3001                 :             :   "ccp", /* name */
    3002                 :             :   OPTGROUP_NONE, /* optinfo_flags */
    3003                 :             :   TV_TREE_CCP, /* tv_id */
    3004                 :             :   ( PROP_cfg | PROP_ssa ), /* properties_required */
    3005                 :             :   0, /* properties_provided */
    3006                 :             :   0, /* properties_destroyed */
    3007                 :             :   0, /* todo_flags_start */
    3008                 :             :   TODO_update_address_taken, /* todo_flags_finish */
    3009                 :             : };
    3010                 :             : 
    3011                 :             : class pass_ccp : public gimple_opt_pass
    3012                 :             : {
    3013                 :             : public:
    3014                 :     1428085 :   pass_ccp (gcc::context *ctxt)
    3015                 :     2856170 :     : gimple_opt_pass (pass_data_ccp, ctxt), nonzero_p (false)
    3016                 :             :   {}
    3017                 :             : 
    3018                 :             :   /* opt_pass methods: */
    3019                 :     1142468 :   opt_pass * clone () final override { return new pass_ccp (m_ctxt); }
    3020                 :     1428085 :   void set_pass_param (unsigned int n, bool param) final override
    3021                 :             :     {
    3022                 :     1428085 :       gcc_assert (n == 0);
    3023                 :     1428085 :       nonzero_p = param;
    3024                 :     1428085 :     }
    3025                 :     5105261 :   bool gate (function *) final override { return flag_tree_ccp != 0; }
    3026                 :     5103437 :   unsigned int execute (function *) final override
    3027                 :             :   {
    3028                 :     5103437 :     return do_ssa_ccp (nonzero_p);
    3029                 :             :   }
    3030                 :             : 
    3031                 :             :  private:
    3032                 :             :   /* Determines whether the pass instance records nonzero bits.  */
    3033                 :             :   bool nonzero_p;
    3034                 :             : }; // class pass_ccp
    3035                 :             : 
    3036                 :             : } // anon namespace
    3037                 :             : 
    3038                 :             : gimple_opt_pass *
    3039                 :      285617 : make_pass_ccp (gcc::context *ctxt)
    3040                 :             : {
    3041                 :      285617 :   return new pass_ccp (ctxt);
    3042                 :             : }
    3043                 :             : 
    3044                 :             : 
    3045                 :             : 
    3046                 :             : /* Try to optimize out __builtin_stack_restore.  Optimize it out
    3047                 :             :    if there is another __builtin_stack_restore in the same basic
    3048                 :             :    block and no calls or ASM_EXPRs are in between, or if this block's
    3049                 :             :    only outgoing edge is to EXIT_BLOCK and there are no calls or
    3050                 :             :    ASM_EXPRs after this __builtin_stack_restore.  */
    3051                 :             : 
    3052                 :             : static tree
    3053                 :        2369 : optimize_stack_restore (gimple_stmt_iterator i)
    3054                 :             : {
    3055                 :        2369 :   tree callee;
    3056                 :        2369 :   gimple *stmt;
    3057                 :             : 
    3058                 :        2369 :   basic_block bb = gsi_bb (i);
    3059                 :        2369 :   gimple *call = gsi_stmt (i);
    3060                 :             : 
    3061                 :        2369 :   if (gimple_code (call) != GIMPLE_CALL
    3062                 :        2369 :       || gimple_call_num_args (call) != 1
    3063                 :        2369 :       || TREE_CODE (gimple_call_arg (call, 0)) != SSA_NAME
    3064                 :        4738 :       || !POINTER_TYPE_P (TREE_TYPE (gimple_call_arg (call, 0))))
    3065                 :             :     return NULL_TREE;
    3066                 :             : 
    3067                 :        6034 :   for (gsi_next (&i); !gsi_end_p (i); gsi_next (&i))
    3068                 :             :     {
    3069                 :        4008 :       stmt = gsi_stmt (i);
    3070                 :        4008 :       if (gimple_code (stmt) == GIMPLE_ASM)
    3071                 :             :         return NULL_TREE;
    3072                 :        4007 :       if (gimple_code (stmt) != GIMPLE_CALL)
    3073                 :        3338 :         continue;
    3074                 :             : 
    3075                 :         669 :       callee = gimple_call_fndecl (stmt);
    3076                 :         669 :       if (!callee
    3077                 :         658 :           || !fndecl_built_in_p (callee, BUILT_IN_NORMAL)
    3078                 :             :           /* All regular builtins are ok, just obviously not alloca.  */
    3079                 :         593 :           || ALLOCA_FUNCTION_CODE_P (DECL_FUNCTION_CODE (callee))
    3080                 :             :           /* Do not remove stack updates before strub leave.  */
    3081                 :        1108 :           || fndecl_built_in_p (callee, BUILT_IN___STRUB_LEAVE))
    3082                 :             :         return NULL_TREE;
    3083                 :             : 
    3084                 :         379 :       if (fndecl_built_in_p (callee, BUILT_IN_STACK_RESTORE))
    3085                 :          52 :         goto second_stack_restore;
    3086                 :             :     }
    3087                 :             : 
    3088                 :        2026 :   if (!gsi_end_p (i))
    3089                 :             :     return NULL_TREE;
    3090                 :             : 
    3091                 :             :   /* Allow one successor of the exit block, or zero successors.  */
    3092                 :        2026 :   switch (EDGE_COUNT (bb->succs))
    3093                 :             :     {
    3094                 :             :     case 0:
    3095                 :             :       break;
    3096                 :        1875 :     case 1:
    3097                 :        1875 :       if (single_succ_edge (bb)->dest != EXIT_BLOCK_PTR_FOR_FN (cfun))
    3098                 :             :         return NULL_TREE;
    3099                 :             :       break;
    3100                 :             :     default:
    3101                 :             :       return NULL_TREE;
    3102                 :             :     }
    3103                 :        1601 :  second_stack_restore:
    3104                 :             : 
    3105                 :             :   /* If there's exactly one use, then zap the call to __builtin_stack_save.
    3106                 :             :      If there are multiple uses, then the last one should remove the call.
    3107                 :             :      In any case, whether the call to __builtin_stack_save can be removed
    3108                 :             :      or not is irrelevant to removing the call to __builtin_stack_restore.  */
    3109                 :        1601 :   if (has_single_use (gimple_call_arg (call, 0)))
    3110                 :             :     {
    3111                 :        1435 :       gimple *stack_save = SSA_NAME_DEF_STMT (gimple_call_arg (call, 0));
    3112                 :        1435 :       if (is_gimple_call (stack_save))
    3113                 :             :         {
    3114                 :        1427 :           callee = gimple_call_fndecl (stack_save);
    3115                 :        1427 :           if (callee && fndecl_built_in_p (callee, BUILT_IN_STACK_SAVE))
    3116                 :             :             {
    3117                 :        1427 :               gimple_stmt_iterator stack_save_gsi;
    3118                 :        1427 :               tree rhs;
    3119                 :             : 
    3120                 :        1427 :               stack_save_gsi = gsi_for_stmt (stack_save);
    3121                 :        1427 :               rhs = build_int_cst (TREE_TYPE (gimple_call_arg (call, 0)), 0);
    3122                 :        1427 :               replace_call_with_value (&stack_save_gsi, rhs);
    3123                 :             :             }
    3124                 :             :         }
    3125                 :             :     }
    3126                 :             : 
    3127                 :             :   /* No effect, so the statement will be deleted.  */
    3128                 :        1601 :   return integer_zero_node;
    3129                 :             : }
    3130                 :             : 
    3131                 :             : /* If va_list type is a simple pointer and nothing special is needed,
    3132                 :             :    optimize __builtin_va_start (&ap, 0) into ap = __builtin_next_arg (0),
    3133                 :             :    __builtin_va_end (&ap) out as NOP and __builtin_va_copy into a simple
    3134                 :             :    pointer assignment.  */
    3135                 :             : 
    3136                 :             : static tree
    3137                 :       10352 : optimize_stdarg_builtin (gimple *call)
    3138                 :             : {
    3139                 :       10352 :   tree callee, lhs, rhs, cfun_va_list;
    3140                 :       10352 :   bool va_list_simple_ptr;
    3141                 :       10352 :   location_t loc = gimple_location (call);
    3142                 :             : 
    3143                 :       10352 :   callee = gimple_call_fndecl (call);
    3144                 :             : 
    3145                 :       10352 :   cfun_va_list = targetm.fn_abi_va_list (callee);
    3146                 :       20704 :   va_list_simple_ptr = POINTER_TYPE_P (cfun_va_list)
    3147                 :       10352 :                        && (TREE_TYPE (cfun_va_list) == void_type_node
    3148                 :         424 :                            || TREE_TYPE (cfun_va_list) == char_type_node);
    3149                 :             : 
    3150                 :       10352 :   switch (DECL_FUNCTION_CODE (callee))
    3151                 :             :     {
    3152                 :        6782 :     case BUILT_IN_VA_START:
    3153                 :        6782 :       if (!va_list_simple_ptr
    3154                 :         164 :           || targetm.expand_builtin_va_start != NULL
    3155                 :        6930 :           || !builtin_decl_explicit_p (BUILT_IN_NEXT_ARG))
    3156                 :             :         return NULL_TREE;
    3157                 :             : 
    3158                 :         148 :       if (gimple_call_num_args (call) != 2)
    3159                 :             :         return NULL_TREE;
    3160                 :             : 
    3161                 :         148 :       lhs = gimple_call_arg (call, 0);
    3162                 :         148 :       if (!POINTER_TYPE_P (TREE_TYPE (lhs))
    3163                 :         148 :           || TYPE_MAIN_VARIANT (TREE_TYPE (TREE_TYPE (lhs)))
    3164                 :         148 :              != TYPE_MAIN_VARIANT (cfun_va_list))
    3165                 :             :         return NULL_TREE;
    3166                 :             : 
    3167                 :         148 :       lhs = build_fold_indirect_ref_loc (loc, lhs);
    3168                 :         148 :       rhs = build_call_expr_loc (loc, builtin_decl_explicit (BUILT_IN_NEXT_ARG),
    3169                 :             :                              1, integer_zero_node);
    3170                 :         148 :       rhs = fold_convert_loc (loc, TREE_TYPE (lhs), rhs);
    3171                 :         148 :       return build2 (MODIFY_EXPR, TREE_TYPE (lhs), lhs, rhs);
    3172                 :             : 
    3173                 :         222 :     case BUILT_IN_VA_COPY:
    3174                 :         222 :       if (!va_list_simple_ptr)
    3175                 :             :         return NULL_TREE;
    3176                 :             : 
    3177                 :          47 :       if (gimple_call_num_args (call) != 2)
    3178                 :             :         return NULL_TREE;
    3179                 :             : 
    3180                 :          47 :       lhs = gimple_call_arg (call, 0);
    3181                 :          47 :       if (!POINTER_TYPE_P (TREE_TYPE (lhs))
    3182                 :          47 :           || TYPE_MAIN_VARIANT (TREE_TYPE (TREE_TYPE (lhs)))
    3183                 :          47 :              != TYPE_MAIN_VARIANT (cfun_va_list))
    3184                 :             :         return NULL_TREE;
    3185                 :             : 
    3186                 :          47 :       lhs = build_fold_indirect_ref_loc (loc, lhs);
    3187                 :          47 :       rhs = gimple_call_arg (call, 1);
    3188                 :          47 :       if (TYPE_MAIN_VARIANT (TREE_TYPE (rhs))
    3189                 :          47 :           != TYPE_MAIN_VARIANT (cfun_va_list))
    3190                 :             :         return NULL_TREE;
    3191                 :             : 
    3192                 :          47 :       rhs = fold_convert_loc (loc, TREE_TYPE (lhs), rhs);
    3193                 :          47 :       return build2 (MODIFY_EXPR, TREE_TYPE (lhs), lhs, rhs);
    3194                 :             : 
    3195                 :        3348 :     case BUILT_IN_VA_END:
    3196                 :             :       /* No effect, so the statement will be deleted.  */
    3197                 :        3348 :       return integer_zero_node;
    3198                 :             : 
    3199                 :           0 :     default:
    3200                 :           0 :       gcc_unreachable ();
    3201                 :             :     }
    3202                 :             : }
    3203                 :             : 
    3204                 :             : /* Attemp to make the block of __builtin_unreachable I unreachable by changing
    3205                 :             :    the incoming jumps.  Return true if at least one jump was changed.  */
    3206                 :             : 
    3207                 :             : static bool
    3208                 :        2815 : optimize_unreachable (gimple_stmt_iterator i)
    3209                 :             : {
    3210                 :        2815 :   basic_block bb = gsi_bb (i);
    3211                 :        2815 :   gimple_stmt_iterator gsi;
    3212                 :        2815 :   gimple *stmt;
    3213                 :        2815 :   edge_iterator ei;
    3214                 :        2815 :   edge e;
    3215                 :        2815 :   bool ret;
    3216                 :             : 
    3217                 :        2815 :   if (flag_sanitize & SANITIZE_UNREACHABLE)
    3218                 :             :     return false;
    3219                 :             : 
    3220                 :       10786 :   for (gsi = gsi_start_bb (bb); !gsi_end_p (gsi); gsi_next (&gsi))
    3221                 :             :     {
    3222                 :        5665 :       stmt = gsi_stmt (gsi);
    3223                 :             : 
    3224                 :        5665 :       if (is_gimple_debug (stmt))
    3225                 :        1357 :        continue;
    3226                 :             : 
    3227                 :        4308 :       if (glabel *label_stmt = dyn_cast <glabel *> (stmt))
    3228                 :             :         {
    3229                 :             :           /* Verify we do not need to preserve the label.  */
    3230                 :        1504 :           if (FORCED_LABEL (gimple_label_label (label_stmt)))
    3231                 :             :             return false;
    3232                 :             : 
    3233                 :        1499 :           continue;
    3234                 :             :         }
    3235                 :             : 
    3236                 :             :       /* Only handle the case that __builtin_unreachable is the first statement
    3237                 :             :          in the block.  We rely on DCE to remove stmts without side-effects
    3238                 :             :          before __builtin_unreachable.  */
    3239                 :        2804 :       if (gsi_stmt (gsi) != gsi_stmt (i))
    3240                 :             :         return false;
    3241                 :             :     }
    3242                 :             : 
    3243                 :        2312 :   ret = false;
    3244                 :        5216 :   FOR_EACH_EDGE (e, ei, bb->preds)
    3245                 :             :     {
    3246                 :        2904 :       gsi = gsi_last_bb (e->src);
    3247                 :        2904 :       if (gsi_end_p (gsi))
    3248                 :         331 :         continue;
    3249                 :             : 
    3250                 :        2573 :       stmt = gsi_stmt (gsi);
    3251                 :        2573 :       if (gcond *cond_stmt = dyn_cast <gcond *> (stmt))
    3252                 :             :         {
    3253                 :         925 :           if (e->flags & EDGE_TRUE_VALUE)
    3254                 :         352 :             gimple_cond_make_false (cond_stmt);
    3255                 :         573 :           else if (e->flags & EDGE_FALSE_VALUE)
    3256                 :         573 :             gimple_cond_make_true (cond_stmt);
    3257                 :             :           else
    3258                 :           0 :             gcc_unreachable ();
    3259                 :         925 :           update_stmt (cond_stmt);
    3260                 :             :         }
    3261                 :             :       else
    3262                 :             :         {
    3263                 :             :           /* Todo: handle other cases.  Note that unreachable switch case
    3264                 :             :              statements have already been removed.  */
    3265                 :        1648 :           continue;
    3266                 :             :         }
    3267                 :             : 
    3268                 :         925 :       ret = true;
    3269                 :             :     }
    3270                 :             : 
    3271                 :             :   return ret;
    3272                 :             : }
    3273                 :             : 
    3274                 :             : /* Convert
    3275                 :             :    _1 = __atomic_fetch_or_* (ptr_6, 1, _3);
    3276                 :             :    _7 = ~_1;
    3277                 :             :    _5 = (_Bool) _7;
    3278                 :             :    to
    3279                 :             :    _1 = __atomic_fetch_or_* (ptr_6, 1, _3);
    3280                 :             :    _8 = _1 & 1;
    3281                 :             :    _5 = _8 == 0;
    3282                 :             :    and convert
    3283                 :             :    _1 = __atomic_fetch_and_* (ptr_6, ~1, _3);
    3284                 :             :    _7 = ~_1;
    3285                 :             :    _4 = (_Bool) _7;
    3286                 :             :    to
    3287                 :             :    _1 = __atomic_fetch_and_* (ptr_6, ~1, _3);
    3288                 :             :    _8 = _1 & 1;
    3289                 :             :    _4 = (_Bool) _8;
    3290                 :             : 
    3291                 :             :    USE_STMT is the gimplt statement which uses the return value of
    3292                 :             :    __atomic_fetch_or_*.  LHS is the return value of __atomic_fetch_or_*.
    3293                 :             :    MASK is the mask passed to __atomic_fetch_or_*.
    3294                 :             :  */
    3295                 :             : 
    3296                 :             : static gimple *
    3297                 :          12 : convert_atomic_bit_not (enum internal_fn fn, gimple *use_stmt,
    3298                 :             :                         tree lhs, tree mask)
    3299                 :             : {
    3300                 :          12 :   tree and_mask;
    3301                 :          12 :   if (fn == IFN_ATOMIC_BIT_TEST_AND_RESET)
    3302                 :             :     {
    3303                 :             :       /* MASK must be ~1.  */
    3304                 :           8 :       if (!operand_equal_p (build_int_cst (TREE_TYPE (lhs),
    3305                 :           8 :                                            ~HOST_WIDE_INT_1), mask, 0))
    3306                 :             :         return nullptr;
    3307                 :           8 :       and_mask = build_int_cst (TREE_TYPE (lhs), 1);
    3308                 :             :     }
    3309                 :             :   else
    3310                 :             :     {
    3311                 :             :       /* MASK must be 1.  */
    3312                 :           4 :       if (!operand_equal_p (build_int_cst (TREE_TYPE (lhs), 1), mask, 0))
    3313                 :             :         return nullptr;
    3314                 :             :       and_mask = mask;
    3315                 :             :     }
    3316                 :             : 
    3317                 :          12 :   tree use_lhs = gimple_assign_lhs (use_stmt);
    3318                 :             : 
    3319                 :          12 :   use_operand_p use_p;
    3320                 :          12 :   gimple *use_not_stmt;
    3321                 :             : 
    3322                 :          12 :   if (!single_imm_use (use_lhs, &use_p, &use_not_stmt)
    3323                 :          12 :       || !is_gimple_assign (use_not_stmt))
    3324                 :             :     return nullptr;
    3325                 :             : 
    3326                 :          12 :   if (!CONVERT_EXPR_CODE_P (gimple_assign_rhs_code (use_not_stmt)))
    3327                 :             :     return nullptr;
    3328                 :             : 
    3329                 :          12 :   tree use_not_lhs = gimple_assign_lhs (use_not_stmt);
    3330                 :          12 :   if (TREE_CODE (TREE_TYPE (use_not_lhs)) != BOOLEAN_TYPE)
    3331                 :             :     return nullptr;
    3332                 :             : 
    3333                 :          12 :   gimple_stmt_iterator gsi;
    3334                 :          12 :   gsi = gsi_for_stmt (use_stmt);
    3335                 :          12 :   gsi_remove (&gsi, true);
    3336                 :          12 :   tree var = make_ssa_name (TREE_TYPE (lhs));
    3337                 :          12 :   use_stmt = gimple_build_assign (var, BIT_AND_EXPR, lhs, and_mask);
    3338                 :          12 :   gsi = gsi_for_stmt (use_not_stmt);
    3339                 :          12 :   gsi_insert_before (&gsi, use_stmt, GSI_NEW_STMT);
    3340                 :          12 :   lhs = gimple_assign_lhs (use_not_stmt);
    3341                 :          12 :   gimple *g = gimple_build_assign (lhs, EQ_EXPR, var,
    3342                 :          12 :                                    build_zero_cst (TREE_TYPE (mask)));
    3343                 :          12 :   gsi_insert_after (&gsi, g, GSI_NEW_STMT);
    3344                 :          12 :   gsi = gsi_for_stmt (use_not_stmt);
    3345                 :          12 :   gsi_remove (&gsi, true);
    3346                 :          12 :   return use_stmt;
    3347                 :             : }
    3348                 :             : 
    3349                 :             : /* match.pd function to match atomic_bit_test_and pattern which
    3350                 :             :    has nop_convert:
    3351                 :             :      _1 = __atomic_fetch_or_4 (&v, 1, 0);
    3352                 :             :      _2 = (int) _1;
    3353                 :             :      _5 = _2 & 1;
    3354                 :             :  */
    3355                 :             : extern bool gimple_nop_atomic_bit_test_and_p (tree, tree *,
    3356                 :             :                                               tree (*) (tree));
    3357                 :             : extern bool gimple_nop_convert (tree, tree*, tree (*) (tree));
    3358                 :             : 
    3359                 :             : /* Optimize
    3360                 :             :      mask_2 = 1 << cnt_1;
    3361                 :             :      _4 = __atomic_fetch_or_* (ptr_6, mask_2, _3);
    3362                 :             :      _5 = _4 & mask_2;
    3363                 :             :    to
    3364                 :             :      _4 = .ATOMIC_BIT_TEST_AND_SET (ptr_6, cnt_1, 0, _3);
    3365                 :             :      _5 = _4;
    3366                 :             :    If _5 is only used in _5 != 0 or _5 == 0 comparisons, 1
    3367                 :             :    is passed instead of 0, and the builtin just returns a zero
    3368                 :             :    or 1 value instead of the actual bit.
    3369                 :             :    Similarly for __sync_fetch_and_or_* (without the ", _3" part
    3370                 :             :    in there), and/or if mask_2 is a power of 2 constant.
    3371                 :             :    Similarly for xor instead of or, use ATOMIC_BIT_TEST_AND_COMPLEMENT
    3372                 :             :    in that case.  And similarly for and instead of or, except that
    3373                 :             :    the second argument to the builtin needs to be one's complement
    3374                 :             :    of the mask instead of mask.  */
    3375                 :             : 
    3376                 :             : static bool
    3377                 :        4670 : optimize_atomic_bit_test_and (gimple_stmt_iterator *gsip,
    3378                 :             :                               enum internal_fn fn, bool has_model_arg,
    3379                 :             :                               bool after)
    3380                 :             : {
    3381                 :        4670 :   gimple *call = gsi_stmt (*gsip);
    3382                 :        4670 :   tree lhs = gimple_call_lhs (call);
    3383                 :        4670 :   use_operand_p use_p;
    3384                 :        4670 :   gimple *use_stmt;
    3385                 :        4670 :   tree mask;
    3386                 :        4670 :   optab optab;
    3387                 :             : 
    3388                 :        4670 :   if (!flag_inline_atomics
    3389                 :        4670 :       || optimize_debug
    3390                 :        4670 :       || !gimple_call_builtin_p (call, BUILT_IN_NORMAL)
    3391                 :        4646 :       || !lhs
    3392                 :        2985 :       || SSA_NAME_OCCURS_IN_ABNORMAL_PHI (lhs)
    3393                 :        2985 :       || !single_imm_use (lhs, &use_p, &use_stmt)
    3394                 :        2955 :       || !is_gimple_assign (use_stmt)
    3395                 :        6401 :       || !gimple_vdef (call))
    3396                 :        2939 :     return false;
    3397                 :             : 
    3398                 :        1731 :   switch (fn)
    3399                 :             :     {
    3400                 :             :     case IFN_ATOMIC_BIT_TEST_AND_SET:
    3401                 :             :       optab = atomic_bit_test_and_set_optab;
    3402                 :             :       break;
    3403                 :             :     case IFN_ATOMIC_BIT_TEST_AND_COMPLEMENT:
    3404                 :             :       optab = atomic_bit_test_and_complement_optab;
    3405                 :             :       break;
    3406                 :             :     case IFN_ATOMIC_BIT_TEST_AND_RESET:
    3407                 :             :       optab = atomic_bit_test_and_reset_optab;
    3408                 :             :       break;
    3409                 :             :     default:
    3410                 :             :       return false;
    3411                 :             :     }
    3412                 :             : 
    3413                 :        1731 :   tree bit = nullptr;
    3414                 :             : 
    3415                 :        1731 :   mask = gimple_call_arg (call, 1);
    3416                 :        1731 :   tree_code rhs_code = gimple_assign_rhs_code (use_stmt);
    3417                 :        1731 :   if (rhs_code != BIT_AND_EXPR)
    3418                 :             :     {
    3419                 :        1414 :       if (rhs_code != NOP_EXPR && rhs_code != BIT_NOT_EXPR)
    3420                 :        1259 :         return false;
    3421                 :             : 
    3422                 :         843 :       tree use_lhs = gimple_assign_lhs (use_stmt);
    3423                 :         843 :       if (TREE_CODE (use_lhs) == SSA_NAME
    3424                 :         843 :           && SSA_NAME_OCCURS_IN_ABNORMAL_PHI (use_lhs))
    3425                 :             :         return false;
    3426                 :             : 
    3427                 :         843 :       tree use_rhs = gimple_assign_rhs1 (use_stmt);
    3428                 :         843 :       if (lhs != use_rhs)
    3429                 :             :         return false;
    3430                 :             : 
    3431                 :         843 :       if (optab_handler (optab, TYPE_MODE (TREE_TYPE (lhs)))
    3432                 :             :           == CODE_FOR_nothing)
    3433                 :             :         return false;
    3434                 :             : 
    3435                 :         579 :       gimple *g;
    3436                 :         579 :       gimple_stmt_iterator gsi;
    3437                 :         579 :       tree var;
    3438                 :         579 :       int ibit = -1;
    3439                 :             : 
    3440                 :         579 :       if (rhs_code == BIT_NOT_EXPR)
    3441                 :             :         {
    3442                 :          12 :           g = convert_atomic_bit_not (fn, use_stmt, lhs, mask);
    3443                 :          12 :           if (!g)
    3444                 :             :             return false;
    3445                 :          12 :           use_stmt = g;
    3446                 :          12 :           ibit = 0;
    3447                 :             :         }
    3448                 :         567 :       else if (TREE_CODE (TREE_TYPE (use_lhs)) == BOOLEAN_TYPE)
    3449                 :             :         {
    3450                 :          15 :           tree and_mask;
    3451                 :          15 :           if (fn == IFN_ATOMIC_BIT_TEST_AND_RESET)
    3452                 :             :             {
    3453                 :             :               /* MASK must be ~1.  */
    3454                 :           8 :               if (!operand_equal_p (build_int_cst (TREE_TYPE (lhs),
    3455                 :           8 :                                                    ~HOST_WIDE_INT_1),
    3456                 :             :                                     mask, 0))
    3457                 :             :                 return false;
    3458                 :             : 
    3459                 :             :               /* Convert
    3460                 :             :                  _1 = __atomic_fetch_and_* (ptr_6, ~1, _3);
    3461                 :             :                  _4 = (_Bool) _1;
    3462                 :             :                  to
    3463                 :             :                  _1 = __atomic_fetch_and_* (ptr_6, ~1, _3);
    3464                 :             :                  _5 = _1 & 1;
    3465                 :             :                  _4 = (_Bool) _5;
    3466                 :             :                */
    3467                 :           8 :               and_mask = build_int_cst (TREE_TYPE (lhs), 1);
    3468                 :             :             }
    3469                 :             :           else
    3470                 :             :             {
    3471                 :           7 :               and_mask = build_int_cst (TREE_TYPE (lhs), 1);
    3472                 :           7 :               if (!operand_equal_p (and_mask, mask, 0))
    3473                 :             :                 return false;
    3474                 :             : 
    3475                 :             :               /* Convert
    3476                 :             :                  _1 = __atomic_fetch_or_* (ptr_6, 1, _3);
    3477                 :             :                  _4 = (_Bool) _1;
    3478                 :             :                  to
    3479                 :             :                  _1 = __atomic_fetch_or_* (ptr_6, 1, _3);
    3480                 :             :                  _5 = _1 & 1;
    3481                 :             :                  _4 = (_Bool) _5;
    3482                 :             :                */
    3483                 :             :             }
    3484                 :          15 :           var = make_ssa_name (TREE_TYPE (use_rhs));
    3485                 :          15 :           replace_uses_by (use_rhs, var);
    3486                 :          15 :           g = gimple_build_assign (var, BIT_AND_EXPR, use_rhs,
    3487                 :             :                                    and_mask);
    3488                 :          15 :           gsi = gsi_for_stmt (use_stmt);
    3489                 :          15 :           gsi_insert_before (&gsi, g, GSI_NEW_STMT);
    3490                 :          15 :           use_stmt = g;
    3491                 :          15 :           ibit = 0;
    3492                 :             :         }
    3493                 :         552 :       else if (TYPE_PRECISION (TREE_TYPE (use_lhs))
    3494                 :         552 :                <= TYPE_PRECISION (TREE_TYPE (use_rhs)))
    3495                 :             :         {
    3496                 :         550 :           gimple *use_nop_stmt;
    3497                 :         550 :           if (!single_imm_use (use_lhs, &use_p, &use_nop_stmt)
    3498                 :         550 :               || (!is_gimple_assign (use_nop_stmt)
    3499                 :          93 :                   && gimple_code (use_nop_stmt) != GIMPLE_COND))
    3500                 :         422 :             return false;
    3501                 :             :           /* Handle both
    3502                 :             :              _4 = _5 < 0;
    3503                 :             :              and
    3504                 :             :              if (_5 < 0)
    3505                 :             :            */
    3506                 :         466 :           tree use_nop_lhs = nullptr;
    3507                 :         466 :           rhs_code = ERROR_MARK;
    3508                 :         466 :           if (is_gimple_assign (use_nop_stmt))
    3509                 :             :             {
    3510                 :         457 :               use_nop_lhs = gimple_assign_lhs (use_nop_stmt);
    3511                 :         457 :               rhs_code = gimple_assign_rhs_code (use_nop_stmt);
    3512                 :             :             }
    3513                 :         466 :           if (!use_nop_lhs || rhs_code != BIT_AND_EXPR)
    3514                 :             :             {
    3515                 :             :               /* Also handle
    3516                 :             :                  if (_5 < 0)
    3517                 :             :                */
    3518                 :         372 :               if (use_nop_lhs
    3519                 :         363 :                   && TREE_CODE (use_nop_lhs) == SSA_NAME
    3520                 :         423 :                   && SSA_NAME_OCCURS_IN_ABNORMAL_PHI (use_nop_lhs))
    3521                 :             :                 return false;
    3522                 :         372 :               if (use_nop_lhs && rhs_code == BIT_NOT_EXPR)
    3523                 :             :                 {
    3524                 :             :                   /* Handle
    3525                 :             :                      _7 = ~_2;
    3526                 :             :                    */
    3527                 :           0 :                   g = convert_atomic_bit_not (fn, use_nop_stmt, lhs,
    3528                 :             :                                               mask);
    3529                 :           0 :                   if (!g)
    3530                 :             :                     return false;
    3531                 :             :                   /* Convert
    3532                 :             :                      _1 = __atomic_fetch_or_4 (ptr_6, 1, _3);
    3533                 :             :                      _2 = (int) _1;
    3534                 :             :                      _7 = ~_2;
    3535                 :             :                      _5 = (_Bool) _7;
    3536                 :             :                      to
    3537                 :             :                      _1 = __atomic_fetch_or_4 (ptr_6, ~1, _3);
    3538                 :             :                      _8 = _1 & 1;
    3539                 :             :                      _5 = _8 == 0;
    3540                 :             :                      and convert
    3541                 :             :                      _1 = __atomic_fetch_and_4 (ptr_6, ~1, _3);
    3542                 :             :                      _2 = (int) _1;
    3543                 :             :                      _7 = ~_2;
    3544                 :             :                      _5 = (_Bool) _7;
    3545                 :             :                      to
    3546                 :             :                      _1 = __atomic_fetch_and_4 (ptr_6, 1, _3);
    3547                 :             :                      _8 = _1 & 1;
    3548                 :             :                      _5 = _8 == 0;
    3549                 :             :                    */
    3550                 :           0 :                   gsi = gsi_for_stmt (use_stmt);
    3551                 :           0 :                   gsi_remove (&gsi, true);
    3552                 :           0 :                   use_stmt = g;
    3553                 :           0 :                   ibit = 0;
    3554                 :             :                 }
    3555                 :             :               else
    3556                 :             :                 {
    3557                 :         372 :                   tree cmp_rhs1, cmp_rhs2;
    3558                 :         372 :                   if (use_nop_lhs)
    3559                 :             :                     {
    3560                 :             :                       /* Handle
    3561                 :             :                          _4 = _5 < 0;
    3562                 :             :                        */
    3563                 :         363 :                       if (TREE_CODE (TREE_TYPE (use_nop_lhs))
    3564                 :             :                           != BOOLEAN_TYPE)
    3565                 :         422 :                         return false;
    3566                 :          51 :                       cmp_rhs1 = gimple_assign_rhs1 (use_nop_stmt);
    3567                 :          51 :                       cmp_rhs2 = gimple_assign_rhs2 (use_nop_stmt);
    3568                 :             :                     }
    3569                 :             :                   else
    3570                 :             :                     {
    3571                 :             :                       /* Handle
    3572                 :             :                          if (_5 < 0)
    3573                 :             :                        */
    3574                 :           9 :                       rhs_code = gimple_cond_code (use_nop_stmt);
    3575                 :           9 :                       cmp_rhs1 = gimple_cond_lhs (use_nop_stmt);
    3576                 :           9 :                       cmp_rhs2 = gimple_cond_rhs (use_nop_stmt);
    3577                 :             :                     }
    3578                 :          60 :                   if (rhs_code != GE_EXPR && rhs_code != LT_EXPR)
    3579                 :             :                     return false;
    3580                 :          48 :                   if (use_lhs != cmp_rhs1)
    3581                 :             :                     return false;
    3582                 :          48 :                   if (!integer_zerop (cmp_rhs2))
    3583                 :             :                     return false;
    3584                 :             : 
    3585                 :          48 :                   tree and_mask;
    3586                 :             : 
    3587                 :          48 :                   unsigned HOST_WIDE_INT bytes
    3588                 :          48 :                     = tree_to_uhwi (TYPE_SIZE_UNIT (TREE_TYPE (use_rhs)));
    3589                 :          48 :                   ibit = bytes * BITS_PER_UNIT - 1;
    3590                 :          48 :                   unsigned HOST_WIDE_INT highest
    3591                 :          48 :                     = HOST_WIDE_INT_1U << ibit;
    3592                 :             : 
    3593                 :          48 :                   if (fn == IFN_ATOMIC_BIT_TEST_AND_RESET)
    3594                 :             :                     {
    3595                 :             :                       /* Get the signed maximum of the USE_RHS type.  */
    3596                 :          19 :                       and_mask = build_int_cst (TREE_TYPE (use_rhs),
    3597                 :          19 :                                                 highest - 1);
    3598                 :          19 :                       if (!operand_equal_p (and_mask, mask, 0))
    3599                 :             :                         return false;
    3600                 :             : 
    3601                 :             :                       /* Convert
    3602                 :             :                          _1 = __atomic_fetch_and_4 (ptr_6, 0x7fffffff, _3);
    3603                 :             :                          _5 = (signed int) _1;
    3604                 :             :                          _4 = _5 < 0 or _5 >= 0;
    3605                 :             :                          to
    3606                 :             :                          _1 = __atomic_fetch_and_4 (ptr_6, 0x7fffffff, _3);
    3607                 :             :                          _6 = _1 & 0x80000000;
    3608                 :             :                          _4 = _6 != 0 or _6 == 0;
    3609                 :             :                          and convert
    3610                 :             :                          _1 = __atomic_fetch_and_4 (ptr_6, 0x7fffffff, _3);
    3611                 :             :                          _5 = (signed int) _1;
    3612                 :             :                          if (_5 < 0 or _5 >= 0)
    3613                 :             :                          to
    3614                 :             :                          _1 = __atomic_fetch_and_4 (ptr_6, 0x7fffffff, _3);
    3615                 :             :                          _6 = _1 & 0x80000000;
    3616                 :             :                          if (_6 != 0 or _6 == 0)
    3617                 :             :                        */
    3618                 :          19 :                       and_mask = build_int_cst (TREE_TYPE (use_rhs),
    3619                 :             :                                                 highest);
    3620                 :             :                     }
    3621                 :             :                   else
    3622                 :             :                     {
    3623                 :             :                       /* Get the signed minimum of the USE_RHS type.  */
    3624                 :          29 :                       and_mask = build_int_cst (TREE_TYPE (use_rhs),
    3625                 :             :                                                 highest);
    3626                 :          29 :                       if (!operand_equal_p (and_mask, mask, 0))
    3627                 :             :                         return false;
    3628                 :             : 
    3629                 :             :                       /* Convert
    3630                 :             :                          _1 = __atomic_fetch_or_4 (ptr_6, 0x80000000, _3);
    3631                 :             :                          _5 = (signed int) _1;
    3632                 :             :                          _4 = _5 < 0 or _5 >= 0;
    3633                 :             :                          to
    3634                 :             :                          _1 = __atomic_fetch_or_4 (ptr_6, 0x80000000, _3);
    3635                 :             :                          _6 = _1 & 0x80000000;
    3636                 :             :                          _4 = _6 != 0 or _6 == 0;
    3637                 :             :                          and convert
    3638                 :             :                          _1 = __atomic_fetch_or_4 (ptr_6, 0x80000000, _3);
    3639                 :             :                          _5 = (signed int) _1;
    3640                 :             :                          if (_5 < 0 or _5 >= 0)
    3641                 :             :                          to
    3642                 :             :                          _1 = __atomic_fetch_or_4 (ptr_6, 0x80000000, _3);
    3643                 :             :                          _6 = _1 & 0x80000000;
    3644                 :             :                          if (_6 != 0 or _6 == 0)
    3645                 :             :                        */
    3646                 :             :                     }
    3647                 :          36 :                   var = make_ssa_name (TREE_TYPE (use_rhs));
    3648                 :          36 :                   gsi = gsi_for_stmt (use_stmt);
    3649                 :          36 :                   gsi_remove (&gsi, true);
    3650                 :          36 :                   g = gimple_build_assign (var, BIT_AND_EXPR, use_rhs,
    3651                 :             :                                            and_mask);
    3652                 :          36 :                   gsi = gsi_for_stmt (use_nop_stmt);
    3653                 :          36 :                   gsi_insert_before (&gsi, g, GSI_NEW_STMT);
    3654                 :          36 :                   use_stmt = g;
    3655                 :          36 :                   rhs_code = rhs_code == GE_EXPR ? EQ_EXPR : NE_EXPR;
    3656                 :          36 :                   tree const_zero = build_zero_cst (TREE_TYPE (use_rhs));
    3657                 :          36 :                   if (use_nop_lhs)
    3658                 :          27 :                     g = gimple_build_assign (use_nop_lhs, rhs_code,
    3659                 :             :                                              var, const_zero);
    3660                 :             :                   else
    3661                 :           9 :                     g = gimple_build_cond (rhs_code, var, const_zero,
    3662                 :             :                                            nullptr, nullptr);
    3663                 :          36 :                   gsi_insert_after (&gsi, g, GSI_NEW_STMT);
    3664                 :          36 :                   gsi = gsi_for_stmt (use_nop_stmt);
    3665                 :          36 :                   gsi_remove (&gsi, true);
    3666                 :             :                 }
    3667                 :             :             }
    3668                 :             :           else
    3669                 :             :             {
    3670                 :          94 :               tree match_op[3];
    3671                 :          94 :               gimple *g;
    3672                 :          94 :               if (!gimple_nop_atomic_bit_test_and_p (use_nop_lhs,
    3673                 :             :                                                      &match_op[0], NULL)
    3674                 :          92 :                   || SSA_NAME_OCCURS_IN_ABNORMAL_PHI (match_op[2])
    3675                 :          92 :                   || !single_imm_use (match_op[2], &use_p, &g)
    3676                 :         186 :                   || !is_gimple_assign (g))
    3677                 :           2 :                 return false;
    3678                 :          92 :               mask = match_op[0];
    3679                 :          92 :               if (TREE_CODE (match_op[1]) == INTEGER_CST)
    3680                 :             :                 {
    3681                 :          48 :                   ibit = tree_log2 (match_op[1]);
    3682                 :          48 :                   gcc_assert (ibit >= 0);
    3683                 :             :                 }
    3684                 :             :               else
    3685                 :             :                 {
    3686                 :          44 :                   g = SSA_NAME_DEF_STMT (match_op[1]);
    3687                 :          44 :                   gcc_assert (is_gimple_assign (g));
    3688                 :          44 :                   bit = gimple_assign_rhs2 (g);
    3689                 :             :                 }
    3690                 :             :               /* Convert
    3691                 :             :                  _1 = __atomic_fetch_or_4 (ptr_6, mask, _3);
    3692                 :             :                  _2 = (int) _1;
    3693                 :             :                  _5 = _2 & mask;
    3694                 :             :                  to
    3695                 :             :                  _1 = __atomic_fetch_or_4 (ptr_6, mask, _3);
    3696                 :             :                  _6 = _1 & mask;
    3697                 :             :                  _5 = (int) _6;
    3698                 :             :                  and convert
    3699                 :             :                  _1 = ~mask_7;
    3700                 :             :                  _2 = (unsigned int) _1;
    3701                 :             :                  _3 = __atomic_fetch_and_4 (ptr_6, _2, 0);
    3702                 :             :                  _4 = (int) _3;
    3703                 :             :                  _5 = _4 & mask_7;
    3704                 :             :                  to
    3705                 :             :                  _1 = __atomic_fetch_and_* (ptr_6, ~mask_7, _3);
    3706                 :             :                  _12 = _3 & mask_7;
    3707                 :             :                  _5 = (int) _12;
    3708                 :             : 
    3709                 :             :                  and Convert
    3710                 :             :                  _1 = __atomic_fetch_and_4 (ptr_6, ~mask, _3);
    3711                 :             :                  _2 = (short int) _1;
    3712                 :             :                  _5 = _2 & mask;
    3713                 :             :                  to
    3714                 :             :                  _1 = __atomic_fetch_and_4 (ptr_6, ~mask, _3);
    3715                 :             :                  _8 = _1 & mask;
    3716                 :             :                  _5 = (short int) _8;
    3717                 :             :               */
    3718                 :          92 :               gimple_seq stmts = NULL;
    3719                 :          92 :               match_op[1] = gimple_convert (&stmts,
    3720                 :          92 :                                             TREE_TYPE (use_rhs),
    3721                 :             :                                             match_op[1]);
    3722                 :          92 :               var = gimple_build (&stmts, BIT_AND_EXPR,
    3723                 :          92 :                                   TREE_TYPE (use_rhs), use_rhs, match_op[1]);
    3724                 :          92 :               gsi = gsi_for_stmt (use_stmt);
    3725                 :          92 :               gsi_remove (&gsi, true);
    3726                 :          92 :               release_defs (use_stmt);
    3727                 :          92 :               use_stmt = gimple_seq_last_stmt (stmts);
    3728                 :          92 :               gsi = gsi_for_stmt (use_nop_stmt);
    3729                 :          92 :               gsi_insert_seq_before (&gsi, stmts, GSI_SAME_STMT);
    3730                 :          92 :               gimple_assign_set_rhs_with_ops (&gsi, CONVERT_EXPR, var);
    3731                 :          92 :               update_stmt (use_nop_stmt);
    3732                 :             :             }
    3733                 :             :         }
    3734                 :             :       else
    3735                 :             :         return false;
    3736                 :             : 
    3737                 :         155 :       if (!bit)
    3738                 :             :         {
    3739                 :         111 :           if (ibit < 0)
    3740                 :           0 :             gcc_unreachable ();
    3741                 :         111 :           bit = build_int_cst (TREE_TYPE (lhs), ibit);
    3742                 :             :         }
    3743                 :             :     }
    3744                 :         317 :   else if (optab_handler (optab, TYPE_MODE (TREE_TYPE (lhs)))
    3745                 :             :            == CODE_FOR_nothing)
    3746                 :             :     return false;
    3747                 :             : 
    3748                 :         466 :   tree use_lhs = gimple_assign_lhs (use_stmt);
    3749                 :         466 :   if (!use_lhs)
    3750                 :             :     return false;
    3751                 :             : 
    3752                 :         466 :   if (!bit)
    3753                 :             :     {
    3754                 :         311 :       if (TREE_CODE (mask) == INTEGER_CST)
    3755                 :             :         {
    3756                 :         236 :           if (fn == IFN_ATOMIC_BIT_TEST_AND_RESET)
    3757                 :          65 :             mask = const_unop (BIT_NOT_EXPR, TREE_TYPE (mask), mask);
    3758                 :         236 :           mask = fold_convert (TREE_TYPE (lhs), mask);
    3759                 :         236 :           int ibit = tree_log2 (mask);
    3760                 :         236 :           if (ibit < 0)
    3761                 :          16 :             return false;
    3762                 :         234 :           bit = build_int_cst (TREE_TYPE (lhs), ibit);
    3763                 :             :         }
    3764                 :          75 :       else if (TREE_CODE (mask) == SSA_NAME)
    3765                 :             :         {
    3766                 :          75 :           gimple *g = SSA_NAME_DEF_STMT (mask);
    3767                 :          75 :           tree match_op;
    3768                 :          75 :           if (gimple_nop_convert (mask, &match_op, NULL))
    3769                 :             :             {
    3770                 :           3 :               mask = match_op;
    3771                 :           3 :               if (TREE_CODE (mask) != SSA_NAME)
    3772                 :           7 :                 return false;
    3773                 :           3 :               g = SSA_NAME_DEF_STMT (mask);
    3774                 :             :             }
    3775                 :          75 :           if (!is_gimple_assign (g))
    3776                 :             :             return false;
    3777                 :             : 
    3778                 :          73 :           if (fn == IFN_ATOMIC_BIT_TEST_AND_RESET)
    3779                 :             :             {
    3780                 :          23 :               if (gimple_assign_rhs_code (g) != BIT_NOT_EXPR)
    3781                 :             :                 return false;
    3782                 :          23 :               mask = gimple_assign_rhs1 (g);
    3783                 :          23 :               if (TREE_CODE (mask) != SSA_NAME)
    3784                 :             :                 return false;
    3785                 :          23 :               g = SSA_NAME_DEF_STMT (mask);
    3786                 :             :             }
    3787                 :             : 
    3788                 :          73 :           if (!is_gimple_assign (g)
    3789                 :          68 :               || gimple_assign_rhs_code (g) != LSHIFT_EXPR
    3790                 :         141 :               || !integer_onep (gimple_assign_rhs1 (g)))
    3791                 :           5 :             return false;
    3792                 :          68 :           bit = gimple_assign_rhs2 (g);
    3793                 :             :         }
    3794                 :             :       else
    3795                 :             :         return false;
    3796                 :             : 
    3797                 :         302 :       tree cmp_mask;
    3798                 :         302 :       if (gimple_assign_rhs1 (use_stmt) == lhs)
    3799                 :         255 :         cmp_mask = gimple_assign_rhs2 (use_stmt);
    3800                 :             :       else
    3801                 :             :         cmp_mask = gimple_assign_rhs1 (use_stmt);
    3802                 :             : 
    3803                 :         302 :       tree match_op;
    3804                 :         302 :       if (gimple_nop_convert (cmp_mask, &match_op, NULL))
    3805                 :           1 :         cmp_mask = match_op;
    3806                 :             : 
    3807                 :         302 :       if (!operand_equal_p (cmp_mask, mask, 0))
    3808                 :             :         return false;
    3809                 :             :     }
    3810                 :             : 
    3811                 :         450 :   bool use_bool = true;
    3812                 :         450 :   bool has_debug_uses = false;
    3813                 :         450 :   imm_use_iterator iter;
    3814                 :         450 :   gimple *g;
    3815                 :             : 
    3816                 :         450 :   if (SSA_NAME_OCCURS_IN_ABNORMAL_PHI (use_lhs))
    3817                 :           0 :     use_bool = false;
    3818                 :         669 :   FOR_EACH_IMM_USE_STMT (g, iter, use_lhs)
    3819                 :             :     {
    3820                 :         451 :       enum tree_code code = ERROR_MARK;
    3821                 :         451 :       tree op0 = NULL_TREE, op1 = NULL_TREE;
    3822                 :         451 :       if (is_gimple_debug (g))
    3823                 :             :         {
    3824                 :           1 :           has_debug_uses = true;
    3825                 :           1 :           continue;
    3826                 :             :         }
    3827                 :         450 :       else if (is_gimple_assign (g))
    3828                 :         404 :         switch (gimple_assign_rhs_code (g))
    3829                 :             :           {
    3830                 :           0 :           case COND_EXPR:
    3831                 :           0 :             op1 = gimple_assign_rhs1 (g);
    3832                 :           0 :             code = TREE_CODE (op1);
    3833                 :           0 :             if (TREE_CODE_CLASS (code) != tcc_comparison)
    3834                 :             :               break;
    3835                 :           0 :             op0 = TREE_OPERAND (op1, 0);
    3836                 :           0 :             op1 = TREE_OPERAND (op1, 1);
    3837                 :           0 :             break;
    3838                 :         188 :           case EQ_EXPR:
    3839                 :         188 :           case NE_EXPR:
    3840                 :         188 :             code = gimple_assign_rhs_code (g);
    3841                 :         188 :             op0 = gimple_assign_rhs1 (g);
    3842                 :         188 :             op1 = gimple_assign_rhs2 (g);
    3843                 :         188 :             break;
    3844                 :             :           default:
    3845                 :             :             break;
    3846                 :             :           }
    3847                 :          46 :       else if (gimple_code (g) == GIMPLE_COND)
    3848                 :             :         {
    3849                 :          30 :           code = gimple_cond_code (g);
    3850                 :          30 :           op0 = gimple_cond_lhs (g);
    3851                 :          30 :           op1 = gimple_cond_rhs (g);
    3852                 :             :         }
    3853                 :             : 
    3854                 :         450 :       if ((code == EQ_EXPR || code == NE_EXPR)
    3855                 :         218 :           && op0 == use_lhs
    3856                 :         668 :           && integer_zerop (op1))
    3857                 :             :         {
    3858                 :         218 :           use_operand_p use_p;
    3859                 :         218 :           int n = 0;
    3860                 :         436 :           FOR_EACH_IMM_USE_ON_STMT (use_p, iter)
    3861                 :         218 :             n++;
    3862                 :         218 :           if (n == 1)
    3863                 :         218 :             continue;
    3864                 :             :         }
    3865                 :             : 
    3866                 :             :       use_bool = false;
    3867                 :             :       break;
    3868                 :         450 :     }
    3869                 :             : 
    3870                 :         450 :   tree new_lhs = make_ssa_name (TREE_TYPE (lhs));
    3871                 :         450 :   tree flag = build_int_cst (TREE_TYPE (lhs), use_bool);
    3872                 :         450 :   if (has_model_arg)
    3873                 :         311 :     g = gimple_build_call_internal (fn, 5, gimple_call_arg (call, 0),
    3874                 :             :                                     bit, flag, gimple_call_arg (call, 2),
    3875                 :             :                                     gimple_call_fn (call));
    3876                 :             :   else
    3877                 :         139 :     g = gimple_build_call_internal (fn, 4, gimple_call_arg (call, 0),
    3878                 :             :                                     bit, flag, gimple_call_fn (call));
    3879                 :         450 :   gimple_call_set_lhs (g, new_lhs);
    3880                 :         450 :   gimple_set_location (g, gimple_location (call));
    3881                 :         450 :   gimple_move_vops (g, call);
    3882                 :         450 :   bool throws = stmt_can_throw_internal (cfun, call);
    3883                 :         450 :   gimple_call_set_nothrow (as_a <gcall *> (g),
    3884                 :         450 :                            gimple_call_nothrow_p (as_a <gcall *> (call)));
    3885                 :         450 :   gimple_stmt_iterator gsi = *gsip;
    3886                 :         450 :   gsi_insert_after (&gsi, g, GSI_NEW_STMT);
    3887                 :         450 :   edge e = NULL;
    3888                 :         450 :   if (throws)
    3889                 :             :     {
    3890                 :         100 :       maybe_clean_or_replace_eh_stmt (call, g);
    3891                 :         100 :       if (after || (use_bool && has_debug_uses))
    3892                 :          12 :         e = find_fallthru_edge (gsi_bb (gsi)->succs);
    3893                 :             :     }
    3894                 :         450 :   if (after)
    3895                 :             :     {
    3896                 :             :       /* The internal function returns the value of the specified bit
    3897                 :             :          before the atomic operation.  If we are interested in the value
    3898                 :             :          of the specified bit after the atomic operation (makes only sense
    3899                 :             :          for xor, otherwise the bit content is compile time known),
    3900                 :             :          we need to invert the bit.  */
    3901                 :          58 :       tree mask_convert = mask;
    3902                 :          58 :       gimple_seq stmts = NULL;
    3903                 :          58 :       if (!use_bool)
    3904                 :          44 :         mask_convert = gimple_convert (&stmts, TREE_TYPE (lhs), mask);
    3905                 :          58 :       new_lhs = gimple_build (&stmts, BIT_XOR_EXPR, TREE_TYPE (lhs), new_lhs,
    3906                 :          14 :                               use_bool ? build_int_cst (TREE_TYPE (lhs), 1)
    3907                 :             :                                        : mask_convert);
    3908                 :          58 :       if (throws)
    3909                 :             :         {
    3910                 :          12 :           gsi_insert_seq_on_edge_immediate (e, stmts);
    3911                 :          24 :           gsi = gsi_for_stmt (gimple_seq_last (stmts));
    3912                 :             :         }
    3913                 :             :       else
    3914                 :          46 :         gsi_insert_seq_after (&gsi, stmts, GSI_NEW_STMT);
    3915                 :             :     }
    3916                 :         450 :   if (use_bool && has_debug_uses)
    3917                 :             :     {
    3918                 :           1 :       tree temp = NULL_TREE;
    3919                 :           1 :       if (!throws || after || single_pred_p (e->dest))
    3920                 :             :         {
    3921                 :           1 :           temp = build_debug_expr_decl (TREE_TYPE (lhs));
    3922                 :           1 :           tree t = build2 (LSHIFT_EXPR, TREE_TYPE (lhs), new_lhs, bit);
    3923                 :           1 :           g = gimple_build_debug_bind (temp, t, g);
    3924                 :           1 :           if (throws && !after)
    3925                 :             :             {
    3926                 :           0 :               gsi = gsi_after_labels (e->dest);
    3927                 :           0 :               gsi_insert_before (&gsi, g, GSI_SAME_STMT);
    3928                 :             :             }
    3929                 :             :           else
    3930                 :           1 :             gsi_insert_after (&gsi, g, GSI_NEW_STMT);
    3931                 :             :         }
    3932                 :           3 :       FOR_EACH_IMM_USE_STMT (g, iter, use_lhs)
    3933                 :           2 :         if (is_gimple_debug (g))
    3934                 :             :           {
    3935                 :           1 :             use_operand_p use_p;
    3936                 :           1 :             if (temp == NULL_TREE)
    3937                 :           0 :               gimple_debug_bind_reset_value (g);
    3938                 :             :             else
    3939                 :           3 :               FOR_EACH_IMM_USE_ON_STMT (use_p, iter)
    3940                 :           1 :                 SET_USE (use_p, temp);
    3941                 :           1 :             update_stmt (g);
    3942                 :           1 :           }
    3943                 :             :     }
    3944                 :         450 :   SSA_NAME_OCCURS_IN_ABNORMAL_PHI (new_lhs)
    3945                 :         450 :     = SSA_NAME_OCCURS_IN_ABNORMAL_PHI (use_lhs);
    3946                 :         450 :   replace_uses_by (use_lhs, new_lhs);
    3947                 :         450 :   gsi = gsi_for_stmt (use_stmt);
    3948                 :         450 :   gsi_remove (&gsi, true);
    3949                 :         450 :   release_defs (use_stmt);
    3950                 :         450 :   gsi_remove (gsip, true);
    3951                 :         450 :   release_ssa_name (lhs);
    3952                 :         450 :   return true;
    3953                 :             : }
    3954                 :             : 
    3955                 :             : /* Optimize
    3956                 :             :      _4 = __atomic_add_fetch_* (ptr_6, arg_2, _3);
    3957                 :             :      _5 = _4 == 0;
    3958                 :             :    to
    3959                 :             :      _4 = .ATOMIC_ADD_FETCH_CMP_0 (EQ_EXPR, ptr_6, arg_2, _3);
    3960                 :             :      _5 = _4;
    3961                 :             :    Similarly for __sync_add_and_fetch_* (without the ", _3" part
    3962                 :             :    in there).  */
    3963                 :             : 
    3964                 :             : static bool
    3965                 :        8602 : optimize_atomic_op_fetch_cmp_0 (gimple_stmt_iterator *gsip,
    3966                 :             :                                 enum internal_fn fn, bool has_model_arg)
    3967                 :             : {
    3968                 :        8602 :   gimple *call = gsi_stmt (*gsip);
    3969                 :        8602 :   tree lhs = gimple_call_lhs (call);
    3970                 :        8602 :   use_operand_p use_p;
    3971                 :        8602 :   gimple *use_stmt;
    3972                 :             : 
    3973                 :        8602 :   if (!flag_inline_atomics
    3974                 :        8602 :       || optimize_debug
    3975                 :        8595 :       || !gimple_call_builtin_p (call, BUILT_IN_NORMAL)
    3976                 :        8552 :       || !lhs
    3977                 :        6068 :       || SSA_NAME_OCCURS_IN_ABNORMAL_PHI (lhs)
    3978                 :        6068 :       || !single_imm_use (lhs, &use_p, &use_stmt)
    3979                 :       14500 :       || !gimple_vdef (call))
    3980                 :        2704 :     return false;
    3981                 :             : 
    3982                 :        5898 :   optab optab;
    3983                 :        5898 :   switch (fn)
    3984                 :             :     {
    3985                 :             :     case IFN_ATOMIC_ADD_FETCH_CMP_0:
    3986                 :             :       optab = atomic_add_fetch_cmp_0_optab;
    3987                 :             :       break;
    3988                 :             :     case IFN_ATOMIC_SUB_FETCH_CMP_0:
    3989                 :             :       optab = atomic_sub_fetch_cmp_0_optab;
    3990                 :             :       break;
    3991                 :             :     case IFN_ATOMIC_AND_FETCH_CMP_0:
    3992                 :             :       optab = atomic_and_fetch_cmp_0_optab;
    3993                 :             :       break;
    3994                 :             :     case IFN_ATOMIC_OR_FETCH_CMP_0:
    3995                 :             :       optab = atomic_or_fetch_cmp_0_optab;
    3996                 :             :       break;
    3997                 :             :     case IFN_ATOMIC_XOR_FETCH_CMP_0:
    3998                 :             :       optab = atomic_xor_fetch_cmp_0_optab;
    3999                 :             :       break;
    4000                 :             :     default:
    4001                 :             :       return false;
    4002                 :             :     }
    4003                 :             : 
    4004                 :        5898 :   if (optab_handler (optab, TYPE_MODE (TREE_TYPE (lhs)))
    4005                 :             :       == CODE_FOR_nothing)
    4006                 :             :     return false;
    4007                 :             : 
    4008                 :        5880 :   tree use_lhs = lhs;
    4009                 :        5880 :   if (gimple_assign_cast_p (use_stmt))
    4010                 :             :     {
    4011                 :         925 :       use_lhs = gimple_assign_lhs (use_stmt);
    4012                 :         925 :       if (!tree_nop_conversion_p (TREE_TYPE (use_lhs), TREE_TYPE (lhs))
    4013                 :         911 :           || (!INTEGRAL_TYPE_P (TREE_TYPE (use_lhs))
    4014                 :          95 :               && !POINTER_TYPE_P (TREE_TYPE (use_lhs)))
    4015                 :         911 :           || SSA_NAME_OCCURS_IN_ABNORMAL_PHI (use_lhs)
    4016                 :        1836 :           || !single_imm_use (use_lhs, &use_p, &use_stmt))
    4017                 :          83 :         return false;
    4018                 :             :     }
    4019                 :        5797 :   enum tree_code code = ERROR_MARK;
    4020                 :        5797 :   tree op0 = NULL_TREE, op1 = NULL_TREE;
    4021                 :        5797 :   if (is_gimple_assign (use_stmt))
    4022                 :        1253 :     switch (gimple_assign_rhs_code (use_stmt))
    4023                 :             :       {
    4024                 :           0 :       case COND_EXPR:
    4025                 :           0 :         op1 = gimple_assign_rhs1 (use_stmt);
    4026                 :           0 :         code = TREE_CODE (op1);
    4027                 :           0 :         if (TREE_CODE_CLASS (code) == tcc_comparison)
    4028                 :             :           {
    4029                 :           0 :             op0 = TREE_OPERAND (op1, 0);
    4030                 :           0 :             op1 = TREE_OPERAND (op1, 1);
    4031                 :             :           }
    4032                 :             :         break;
    4033                 :        1253 :       default:
    4034                 :        1253 :         code = gimple_assign_rhs_code (use_stmt);
    4035                 :        1253 :         if (TREE_CODE_CLASS (code) == tcc_comparison)
    4036                 :             :           {
    4037                 :         842 :             op0 = gimple_assign_rhs1 (use_stmt);
    4038                 :         842 :             op1 = gimple_assign_rhs2 (use_stmt);
    4039                 :             :           }
    4040                 :             :         break;
    4041                 :             :       }
    4042                 :        4544 :   else if (gimple_code (use_stmt) == GIMPLE_COND)
    4043                 :             :     {
    4044                 :        4029 :       code = gimple_cond_code (use_stmt);
    4045                 :        4029 :       op0 = gimple_cond_lhs (use_stmt);
    4046                 :        4029 :       op1 = gimple_cond_rhs (use_stmt);
    4047                 :             :     }
    4048                 :             : 
    4049                 :        5797 :   switch (code)
    4050                 :             :     {
    4051                 :         243 :     case LT_EXPR:
    4052                 :         243 :     case LE_EXPR:
    4053                 :         243 :     case GT_EXPR:
    4054                 :         243 :     case GE_EXPR:
    4055                 :         486 :       if (!INTEGRAL_TYPE_P (TREE_TYPE (use_lhs))
    4056                 :         243 :           || TREE_CODE (TREE_TYPE (use_lhs)) == BOOLEAN_TYPE
    4057                 :         486 :           || TYPE_UNSIGNED (TREE_TYPE (use_lhs)))
    4058                 :             :         return false;
    4059                 :             :       /* FALLTHRU */
    4060                 :        4871 :     case EQ_EXPR:
    4061                 :        4871 :     case NE_EXPR:
    4062                 :        4871 :       if (op0 == use_lhs && integer_zerop (op1))
    4063                 :             :         break;
    4064                 :             :       return false;
    4065                 :             :     default:
    4066                 :             :       return false;
    4067                 :             :     }
    4068                 :             : 
    4069                 :        1941 :   int encoded;
    4070                 :        1941 :   switch (code)
    4071                 :             :     {
    4072                 :             :     /* Use special encoding of the operation.  We want to also
    4073                 :             :        encode the mode in the first argument and for neither EQ_EXPR
    4074                 :             :        etc. nor EQ etc. we can rely it will fit into QImode.  */
    4075                 :             :     case EQ_EXPR: encoded = ATOMIC_OP_FETCH_CMP_0_EQ; break;
    4076                 :         877 :     case NE_EXPR: encoded = ATOMIC_OP_FETCH_CMP_0_NE; break;
    4077                 :         106 :     case LT_EXPR: encoded = ATOMIC_OP_FETCH_CMP_0_LT; break;
    4078                 :          40 :     case LE_EXPR: encoded = ATOMIC_OP_FETCH_CMP_0_LE; break;
    4079                 :          40 :     case GT_EXPR: encoded = ATOMIC_OP_FETCH_CMP_0_GT; break;
    4080                 :          48 :     case GE_EXPR: encoded = ATOMIC_OP_FETCH_CMP_0_GE; break;
    4081                 :           0 :     default: gcc_unreachable ();
    4082                 :             :     }
    4083                 :             : 
    4084                 :        1941 :   tree new_lhs = make_ssa_name (boolean_type_node);
    4085                 :        1941 :   gimple *g;
    4086                 :        1941 :   tree flag = build_int_cst (TREE_TYPE (lhs), encoded);
    4087                 :        1941 :   if (has_model_arg)
    4088                 :        1531 :     g = gimple_build_call_internal (fn, 5, flag,
    4089                 :             :                                     gimple_call_arg (call, 0),
    4090                 :             :                                     gimple_call_arg (call, 1),
    4091                 :             :                                     gimple_call_arg (call, 2),
    4092                 :             :                                     gimple_call_fn (call));
    4093                 :             :   else
    4094                 :         410 :     g = gimple_build_call_internal (fn, 4, flag,
    4095                 :             :                                     gimple_call_arg (call, 0),
    4096                 :             :                                     gimple_call_arg (call, 1),
    4097                 :             :                                     gimple_call_fn (call));
    4098                 :        1941 :   gimple_call_set_lhs (g, new_lhs);
    4099                 :        1941 :   gimple_set_location (g, gimple_location (call));
    4100                 :        1941 :   gimple_move_vops (g, call);
    4101                 :        1941 :   bool throws = stmt_can_throw_internal (cfun, call);
    4102                 :        1941 :   gimple_call_set_nothrow (as_a <gcall *> (g),
    4103                 :        1941 :                            gimple_call_nothrow_p (as_a <gcall *> (call)));
    4104                 :        1941 :   gimple_stmt_iterator gsi = *gsip;
    4105                 :        1941 :   gsi_insert_after (&gsi, g, GSI_SAME_STMT);
    4106                 :        1941 :   if (throws)
    4107                 :           0 :     maybe_clean_or_replace_eh_stmt (call, g);
    4108                 :        1941 :   if (is_gimple_assign (use_stmt))
    4109                 :         816 :     switch (gimple_assign_rhs_code (use_stmt))
    4110                 :             :       {
    4111                 :           0 :       case COND_EXPR:
    4112                 :           0 :         gimple_assign_set_rhs1 (use_stmt, new_lhs);
    4113                 :           0 :         break;
    4114                 :         816 :       default:
    4115                 :         816 :         gsi = gsi_for_stmt (use_stmt);
    4116                 :         816 :         if (tree ulhs = gimple_assign_lhs (use_stmt))
    4117                 :         816 :           if (useless_type_conversion_p (TREE_TYPE (ulhs),
    4118                 :             :                                          boolean_type_node))
    4119                 :             :             {
    4120                 :         816 :               gimple_assign_set_rhs_with_ops (&gsi, SSA_NAME, new_lhs);
    4121                 :         816 :               break;
    4122                 :             :             }
    4123                 :           0 :         gimple_assign_set_rhs_with_ops (&gsi, NOP_EXPR, new_lhs);
    4124                 :           0 :         break;
    4125                 :             :       }
    4126                 :        1125 :   else if (gimple_code (use_stmt) == GIMPLE_COND)
    4127                 :             :     {
    4128                 :        1125 :       gcond *use_cond = as_a <gcond *> (use_stmt);
    4129                 :        1125 :       gimple_cond_set_code (use_cond, NE_EXPR);
    4130                 :        1125 :       gimple_cond_set_lhs (use_cond, new_lhs);
    4131                 :        1125 :       gimple_cond_set_rhs (use_cond, boolean_false_node);
    4132                 :             :     }
    4133                 :             : 
    4134                 :        1941 :   update_stmt (use_stmt);
    4135                 :        1941 :   if (use_lhs != lhs)
    4136                 :             :     {
    4137                 :         234 :       gsi = gsi_for_stmt (SSA_NAME_DEF_STMT (use_lhs));
    4138                 :         234 :       gsi_remove (&gsi, true);
    4139                 :         234 :       release_ssa_name (use_lhs);
    4140                 :             :     }
    4141                 :        1941 :   gsi_remove (gsip, true);
    4142                 :        1941 :   release_ssa_name (lhs);
    4143                 :        1941 :   return true;
    4144                 :             : }
    4145                 :             : 
    4146                 :             : /* Optimize
    4147                 :             :    a = {};
    4148                 :             :    b = a;
    4149                 :             :    into
    4150                 :             :    a = {};
    4151                 :             :    b = {};
    4152                 :             :    Similarly for memset (&a, ..., sizeof (a)); instead of a = {};
    4153                 :             :    and/or memcpy (&b, &a, sizeof (a)); instead of b = a;  */
    4154                 :             : 
    4155                 :             : static void
    4156                 :      530829 : optimize_memcpy (gimple_stmt_iterator *gsip, tree dest, tree src, tree len)
    4157                 :             : {
    4158                 :      530829 :   gimple *stmt = gsi_stmt (*gsip);
    4159                 :     1061658 :   if (gimple_has_volatile_ops (stmt))
    4160                 :      528105 :     return;
    4161                 :             : 
    4162                 :     1058638 :   tree vuse = gimple_vuse (stmt);
    4163                 :      530533 :   if (vuse == NULL)
    4164                 :             :     return;
    4165                 :             : 
    4166                 :      530533 :   gimple *defstmt = SSA_NAME_DEF_STMT (vuse);
    4167                 :      530533 :   tree src2 = NULL_TREE, len2 = NULL_TREE;
    4168                 :      530533 :   poly_int64 offset, offset2;
    4169                 :      530533 :   tree val = integer_zero_node;
    4170                 :      530533 :   if (gimple_store_p (defstmt)
    4171                 :      423090 :       && gimple_assign_single_p (defstmt)
    4172                 :      260504 :       && TREE_CODE (gimple_assign_rhs1 (defstmt)) == CONSTRUCTOR
    4173                 :      552421 :       && !gimple_clobber_p (defstmt))
    4174                 :        6236 :     src2 = gimple_assign_lhs (defstmt);
    4175                 :      524297 :   else if (gimple_call_builtin_p (defstmt, BUILT_IN_MEMSET)
    4176                 :        2029 :            && TREE_CODE (gimple_call_arg (defstmt, 0)) == ADDR_EXPR
    4177                 :      526302 :            && TREE_CODE (gimple_call_arg (defstmt, 1)) == INTEGER_CST)
    4178                 :             :     {
    4179                 :        2005 :       src2 = TREE_OPERAND (gimple_call_arg (defstmt, 0), 0);
    4180                 :        2005 :       len2 = gimple_call_arg (defstmt, 2);
    4181                 :        2005 :       val = gimple_call_arg (defstmt, 1);
    4182                 :             :       /* For non-0 val, we'd have to transform stmt from assignment
    4183                 :             :          into memset (only if dest is addressable).  */
    4184                 :        2005 :       if (!integer_zerop (val) && is_gimple_assign (stmt))
    4185                 :             :         src2 = NULL_TREE;
    4186                 :             :     }
    4187                 :             : 
    4188                 :      530533 :   if (src2 == NULL_TREE)
    4189                 :             :     return;
    4190                 :             : 
    4191                 :        8197 :   if (len == NULL_TREE)
    4192                 :        6333 :     len = (TREE_CODE (src) == COMPONENT_REF
    4193                 :       11231 :            ? DECL_SIZE_UNIT (TREE_OPERAND (src, 1))
    4194                 :        4898 :            : TYPE_SIZE_UNIT (TREE_TYPE (src)));
    4195                 :        8197 :   if (len2 == NULL_TREE)
    4196                 :        6236 :     len2 = (TREE_CODE (src2) == COMPONENT_REF
    4197                 :       12205 :             ? DECL_SIZE_UNIT (TREE_OPERAND (src2, 1))
    4198                 :        5969 :             : TYPE_SIZE_UNIT (TREE_TYPE (src2)));
    4199                 :        8197 :   if (len == NULL_TREE
    4200                 :        8197 :       || !poly_int_tree_p (len)
    4201                 :        8197 :       || len2 == NULL_TREE
    4202                 :       16394 :       || !poly_int_tree_p (len2))
    4203                 :             :     return;
    4204                 :             : 
    4205                 :        8197 :   src = get_addr_base_and_unit_offset (src, &offset);
    4206                 :        8197 :   src2 = get_addr_base_and_unit_offset (src2, &offset2);
    4207                 :        8197 :   if (src == NULL_TREE
    4208                 :        8197 :       || src2 == NULL_TREE
    4209                 :        8197 :       || maybe_lt (offset, offset2))
    4210                 :             :     return;
    4211                 :             : 
    4212                 :        7168 :   if (!operand_equal_p (src, src2, 0))
    4213                 :             :     return;
    4214                 :             : 
    4215                 :             :   /* [ src + offset2, src + offset2 + len2 - 1 ] is set to val.
    4216                 :             :      Make sure that
    4217                 :             :      [ src + offset, src + offset + len - 1 ] is a subset of that.  */
    4218                 :        2725 :   if (maybe_gt (wi::to_poly_offset (len) + (offset - offset2),
    4219                 :             :                 wi::to_poly_offset (len2)))
    4220                 :             :     return;
    4221                 :             : 
    4222                 :        2724 :   if (dump_file && (dump_flags & TDF_DETAILS))
    4223                 :             :     {
    4224                 :          17 :       fprintf (dump_file, "Simplified\n  ");
    4225                 :          17 :       print_gimple_stmt (dump_file, stmt, 0, dump_flags);
    4226                 :          17 :       fprintf (dump_file, "after previous\n  ");
    4227                 :          17 :       print_gimple_stmt (dump_file, defstmt, 0, dump_flags);
    4228                 :             :     }
    4229                 :             : 
    4230                 :             :   /* For simplicity, don't change the kind of the stmt,
    4231                 :             :      turn dest = src; into dest = {}; and memcpy (&dest, &src, len);
    4232                 :             :      into memset (&dest, val, len);
    4233                 :             :      In theory we could change dest = src into memset if dest
    4234                 :             :      is addressable (maybe beneficial if val is not 0), or
    4235                 :             :      memcpy (&dest, &src, len) into dest = {} if len is the size
    4236                 :             :      of dest, dest isn't volatile.  */
    4237                 :        2724 :   if (is_gimple_assign (stmt))
    4238                 :             :     {
    4239                 :        2723 :       tree ctor = build_constructor (TREE_TYPE (dest), NULL);
    4240                 :        2723 :       gimple_assign_set_rhs_from_tree (gsip, ctor);
    4241                 :        2723 :       update_stmt (stmt);
    4242                 :             :     }
    4243                 :             :   else /* If stmt is memcpy, transform it into memset.  */
    4244                 :             :     {
    4245                 :           1 :       gcall *call = as_a <gcall *> (stmt);
    4246                 :           1 :       tree fndecl = builtin_decl_implicit (BUILT_IN_MEMSET);
    4247                 :           1 :       gimple_call_set_fndecl (call, fndecl);
    4248                 :           1 :       gimple_call_set_fntype (call, TREE_TYPE (fndecl));
    4249                 :           1 :       gimple_call_set_arg (call, 1, val);
    4250                 :           1 :       update_stmt (stmt);
    4251                 :             :     }
    4252                 :             : 
    4253                 :        2724 :   if (dump_file && (dump_flags & TDF_DETAILS))
    4254                 :             :     {
    4255                 :          17 :       fprintf (dump_file, "into\n  ");
    4256                 :          17 :       print_gimple_stmt (dump_file, stmt, 0, dump_flags);
    4257                 :             :     }
    4258                 :             : }
    4259                 :             : 
    4260                 :             : /* A simple pass that attempts to fold all builtin functions.  This pass
    4261                 :             :    is run after we've propagated as many constants as we can.  */
    4262                 :             : 
    4263                 :             : namespace {
    4264                 :             : 
    4265                 :             : const pass_data pass_data_fold_builtins =
    4266                 :             : {
    4267                 :             :   GIMPLE_PASS, /* type */
    4268                 :             :   "fab", /* name */
    4269                 :             :   OPTGROUP_NONE, /* optinfo_flags */
    4270                 :             :   TV_NONE, /* tv_id */
    4271                 :             :   ( PROP_cfg | PROP_ssa ), /* properties_required */
    4272                 :             :   0, /* properties_provided */
    4273                 :             :   0, /* properties_destroyed */
    4274                 :             :   0, /* todo_flags_start */
    4275                 :             :   TODO_update_ssa, /* todo_flags_finish */
    4276                 :             : };
    4277                 :             : 
    4278                 :             : class pass_fold_builtins : public gimple_opt_pass
    4279                 :             : {
    4280                 :             : public:
    4281                 :      571234 :   pass_fold_builtins (gcc::context *ctxt)
    4282                 :     1142468 :     : gimple_opt_pass (pass_data_fold_builtins, ctxt)
    4283                 :             :   {}
    4284                 :             : 
    4285                 :             :   /* opt_pass methods: */
    4286                 :      285617 :   opt_pass * clone () final override { return new pass_fold_builtins (m_ctxt); }
    4287                 :             :   unsigned int execute (function *) final override;
    4288                 :             : 
    4289                 :             : }; // class pass_fold_builtins
    4290                 :             : 
    4291                 :             : unsigned int
    4292                 :      978216 : pass_fold_builtins::execute (function *fun)
    4293                 :             : {
    4294                 :      978216 :   bool cfg_changed = false;
    4295                 :      978216 :   basic_block bb;
    4296                 :      978216 :   unsigned int todoflags = 0;
    4297                 :             : 
    4298                 :     9941924 :   FOR_EACH_BB_FN (bb, fun)
    4299                 :             :     {
    4300                 :     8963708 :       gimple_stmt_iterator i;
    4301                 :    87039700 :       for (i = gsi_start_bb (bb); !gsi_end_p (i); )
    4302                 :             :         {
    4303                 :    69112284 :           gimple *stmt, *old_stmt;
    4304                 :    69112284 :           tree callee;
    4305                 :    69112284 :           enum built_in_function fcode;
    4306                 :             : 
    4307                 :    69112284 :           stmt = gsi_stmt (i);
    4308                 :             : 
    4309                 :    69112284 :           if (gimple_code (stmt) != GIMPLE_CALL)
    4310                 :             :             {
    4311                 :    64369796 :               if (gimple_assign_load_p (stmt) && gimple_store_p (stmt))
    4312                 :      518867 :                 optimize_memcpy (&i, gimple_assign_lhs (stmt),
    4313                 :             :                                  gimple_assign_rhs1 (stmt), NULL_TREE);
    4314                 :    64369796 :               gsi_next (&i);
    4315                 :    64369796 :               continue;
    4316                 :             :             }
    4317                 :             : 
    4318                 :     4742488 :           callee = gimple_call_fndecl (stmt);
    4319                 :     4742595 :           if (!callee
    4320                 :     4742488 :               && gimple_call_internal_p (stmt, IFN_ASSUME))
    4321                 :             :             {
    4322                 :         107 :               gsi_remove (&i, true);
    4323                 :         107 :               continue;
    4324                 :             :             }
    4325                 :     4742381 :           if (!callee || !fndecl_built_in_p (callee, BUILT_IN_NORMAL))
    4326                 :             :             {
    4327                 :     3665069 :               gsi_next (&i);
    4328                 :     3665069 :               continue;
    4329                 :             :             }
    4330                 :             : 
    4331                 :     1077312 :           fcode = DECL_FUNCTION_CODE (callee);
    4332                 :     1077312 :           if (fold_stmt (&i))
    4333                 :             :             ;
    4334                 :             :           else
    4335                 :             :             {
    4336                 :     1077311 :               tree result = NULL_TREE;
    4337                 :     1077311 :               switch (DECL_FUNCTION_CODE (callee))
    4338                 :             :                 {
    4339                 :           3 :                 case BUILT_IN_CONSTANT_P:
    4340                 :             :                   /* Resolve __builtin_constant_p.  If it hasn't been
    4341                 :             :                      folded to integer_one_node by now, it's fairly
    4342                 :             :                      certain that the value simply isn't constant.  */
    4343                 :           3 :                   result = integer_zero_node;
    4344                 :           3 :                   break;
    4345                 :             : 
    4346                 :         620 :                 case BUILT_IN_ASSUME_ALIGNED:
    4347                 :             :                   /* Remove __builtin_assume_aligned.  */
    4348                 :         620 :                   result = gimple_call_arg (stmt, 0);
    4349                 :         620 :                   break;
    4350                 :             : 
    4351                 :        2369 :                 case BUILT_IN_STACK_RESTORE:
    4352                 :        2369 :                   result = optimize_stack_restore (i);
    4353                 :        2369 :                   if (result)
    4354                 :             :                     break;
    4355                 :         768 :                   gsi_next (&i);
    4356                 :         768 :                   continue;
    4357                 :             : 
    4358                 :        2815 :                 case BUILT_IN_UNREACHABLE:
    4359                 :        2815 :                   if (optimize_unreachable (i))
    4360                 :             :                     cfg_changed = true;
    4361                 :             :                   break;
    4362                 :             : 
    4363                 :        3579 :                 case BUILT_IN_ATOMIC_ADD_FETCH_1:
    4364                 :        3579 :                 case BUILT_IN_ATOMIC_ADD_FETCH_2:
    4365                 :        3579 :                 case BUILT_IN_ATOMIC_ADD_FETCH_4:
    4366                 :        3579 :                 case BUILT_IN_ATOMIC_ADD_FETCH_8:
    4367                 :        3579 :                 case BUILT_IN_ATOMIC_ADD_FETCH_16:
    4368                 :        3579 :                   optimize_atomic_op_fetch_cmp_0 (&i,
    4369                 :             :                                                   IFN_ATOMIC_ADD_FETCH_CMP_0,
    4370                 :             :                                                   true);
    4371                 :        3579 :                   break;
    4372                 :         230 :                 case BUILT_IN_SYNC_ADD_AND_FETCH_1:
    4373                 :         230 :                 case BUILT_IN_SYNC_ADD_AND_FETCH_2:
    4374                 :         230 :                 case BUILT_IN_SYNC_ADD_AND_FETCH_4:
    4375                 :         230 :                 case BUILT_IN_SYNC_ADD_AND_FETCH_8:
    4376                 :         230 :                 case BUILT_IN_SYNC_ADD_AND_FETCH_16:
    4377                 :         230 :                   optimize_atomic_op_fetch_cmp_0 (&i,
    4378                 :             :                                                   IFN_ATOMIC_ADD_FETCH_CMP_0,
    4379                 :             :                                                   false);
    4380                 :         230 :                   break;
    4381                 :             : 
    4382                 :        2357 :                 case BUILT_IN_ATOMIC_SUB_FETCH_1:
    4383                 :        2357 :                 case BUILT_IN_ATOMIC_SUB_FETCH_2:
    4384                 :        2357 :                 case BUILT_IN_ATOMIC_SUB_FETCH_4:
    4385                 :        2357 :                 case BUILT_IN_ATOMIC_SUB_FETCH_8:
    4386                 :        2357 :                 case BUILT_IN_ATOMIC_SUB_FETCH_16:
    4387                 :        2357 :                   optimize_atomic_op_fetch_cmp_0 (&i,
    4388                 :             :                                                   IFN_ATOMIC_SUB_FETCH_CMP_0,
    4389                 :             :                                                   true);
    4390                 :        2357 :                   break;
    4391                 :         184 :                 case BUILT_IN_SYNC_SUB_AND_FETCH_1:
    4392                 :         184 :                 case BUILT_IN_SYNC_SUB_AND_FETCH_2:
    4393                 :         184 :                 case BUILT_IN_SYNC_SUB_AND_FETCH_4:
    4394                 :         184 :                 case BUILT_IN_SYNC_SUB_AND_FETCH_8:
    4395                 :         184 :                 case BUILT_IN_SYNC_SUB_AND_FETCH_16:
    4396                 :         184 :                   optimize_atomic_op_fetch_cmp_0 (&i,
    4397                 :             :                                                   IFN_ATOMIC_SUB_FETCH_CMP_0,
    4398                 :             :                                                   false);
    4399                 :         184 :                   break;
    4400                 :             : 
    4401                 :         964 :                 case BUILT_IN_ATOMIC_FETCH_OR_1:
    4402                 :         964 :                 case BUILT_IN_ATOMIC_FETCH_OR_2:
    4403                 :         964 :                 case BUILT_IN_ATOMIC_FETCH_OR_4:
    4404                 :         964 :                 case BUILT_IN_ATOMIC_FETCH_OR_8:
    4405                 :         964 :                 case BUILT_IN_ATOMIC_FETCH_OR_16:
    4406                 :         964 :                   optimize_atomic_bit_test_and (&i,
    4407                 :             :                                                 IFN_ATOMIC_BIT_TEST_AND_SET,
    4408                 :             :                                                 true, false);
    4409                 :         964 :                   break;
    4410                 :         481 :                 case BUILT_IN_SYNC_FETCH_AND_OR_1:
    4411                 :         481 :                 case BUILT_IN_SYNC_FETCH_AND_OR_2:
    4412                 :         481 :                 case BUILT_IN_SYNC_FETCH_AND_OR_4:
    4413                 :         481 :                 case BUILT_IN_SYNC_FETCH_AND_OR_8:
    4414                 :         481 :                 case BUILT_IN_SYNC_FETCH_AND_OR_16:
    4415                 :         481 :                   optimize_atomic_bit_test_and (&i,
    4416                 :             :                                                 IFN_ATOMIC_BIT_TEST_AND_SET,
    4417                 :             :                                                 false, false);
    4418                 :         481 :                   break;
    4419                 :             : 
    4420                 :         752 :                 case BUILT_IN_ATOMIC_FETCH_XOR_1:
    4421                 :         752 :                 case BUILT_IN_ATOMIC_FETCH_XOR_2:
    4422                 :         752 :                 case BUILT_IN_ATOMIC_FETCH_XOR_4:
    4423                 :         752 :                 case BUILT_IN_ATOMIC_FETCH_XOR_8:
    4424                 :         752 :                 case BUILT_IN_ATOMIC_FETCH_XOR_16:
    4425                 :         752 :                   optimize_atomic_bit_test_and
    4426                 :         752 :                         (&i, IFN_ATOMIC_BIT_TEST_AND_COMPLEMENT, true, false);
    4427                 :         752 :                   break;
    4428                 :         545 :                 case BUILT_IN_SYNC_FETCH_AND_XOR_1:
    4429                 :         545 :                 case BUILT_IN_SYNC_FETCH_AND_XOR_2:
    4430                 :         545 :                 case BUILT_IN_SYNC_FETCH_AND_XOR_4:
    4431                 :         545 :                 case BUILT_IN_SYNC_FETCH_AND_XOR_8:
    4432                 :         545 :                 case BUILT_IN_SYNC_FETCH_AND_XOR_16:
    4433                 :         545 :                   optimize_atomic_bit_test_and
    4434                 :         545 :                         (&i, IFN_ATOMIC_BIT_TEST_AND_COMPLEMENT, false, false);
    4435                 :         545 :                   break;
    4436                 :             : 
    4437                 :         572 :                 case BUILT_IN_ATOMIC_XOR_FETCH_1:
    4438                 :         572 :                 case BUILT_IN_ATOMIC_XOR_FETCH_2:
    4439                 :         572 :                 case BUILT_IN_ATOMIC_XOR_FETCH_4:
    4440                 :         572 :                 case BUILT_IN_ATOMIC_XOR_FETCH_8:
    4441                 :         572 :                 case BUILT_IN_ATOMIC_XOR_FETCH_16:
    4442                 :         572 :                   if (optimize_atomic_bit_test_and
    4443                 :         572 :                         (&i, IFN_ATOMIC_BIT_TEST_AND_COMPLEMENT, true, true))
    4444                 :             :                     break;
    4445                 :         531 :                   optimize_atomic_op_fetch_cmp_0 (&i,
    4446                 :             :                                                   IFN_ATOMIC_XOR_FETCH_CMP_0,
    4447                 :             :                                                   true);
    4448                 :         531 :                   break;
    4449                 :         201 :                 case BUILT_IN_SYNC_XOR_AND_FETCH_1:
    4450                 :         201 :                 case BUILT_IN_SYNC_XOR_AND_FETCH_2:
    4451                 :         201 :                 case BUILT_IN_SYNC_XOR_AND_FETCH_4:
    4452                 :         201 :                 case BUILT_IN_SYNC_XOR_AND_FETCH_8:
    4453                 :         201 :                 case BUILT_IN_SYNC_XOR_AND_FETCH_16:
    4454                 :         201 :                   if (optimize_atomic_bit_test_and
    4455                 :         201 :                         (&i, IFN_ATOMIC_BIT_TEST_AND_COMPLEMENT, false, true))
    4456                 :             :                     break;
    4457                 :         184 :                   optimize_atomic_op_fetch_cmp_0 (&i,
    4458                 :             :                                                   IFN_ATOMIC_XOR_FETCH_CMP_0,
    4459                 :             :                                                   false);
    4460                 :         184 :                   break;
    4461                 :             : 
    4462                 :         703 :                 case BUILT_IN_ATOMIC_FETCH_AND_1:
    4463                 :         703 :                 case BUILT_IN_ATOMIC_FETCH_AND_2:
    4464                 :         703 :                 case BUILT_IN_ATOMIC_FETCH_AND_4:
    4465                 :         703 :                 case BUILT_IN_ATOMIC_FETCH_AND_8:
    4466                 :         703 :                 case BUILT_IN_ATOMIC_FETCH_AND_16:
    4467                 :         703 :                   optimize_atomic_bit_test_and (&i,
    4468                 :             :                                                 IFN_ATOMIC_BIT_TEST_AND_RESET,
    4469                 :             :                                                 true, false);
    4470                 :         703 :                   break;
    4471                 :         452 :                 case BUILT_IN_SYNC_FETCH_AND_AND_1:
    4472                 :         452 :                 case BUILT_IN_SYNC_FETCH_AND_AND_2:
    4473                 :         452 :                 case BUILT_IN_SYNC_FETCH_AND_AND_4:
    4474                 :         452 :                 case BUILT_IN_SYNC_FETCH_AND_AND_8:
    4475                 :         452 :                 case BUILT_IN_SYNC_FETCH_AND_AND_16:
    4476                 :         452 :                   optimize_atomic_bit_test_and (&i,
    4477                 :             :                                                 IFN_ATOMIC_BIT_TEST_AND_RESET,
    4478                 :             :                                                 false, false);
    4479                 :         452 :                   break;
    4480                 :             : 
    4481                 :         586 :                 case BUILT_IN_ATOMIC_AND_FETCH_1:
    4482                 :         586 :                 case BUILT_IN_ATOMIC_AND_FETCH_2:
    4483                 :         586 :                 case BUILT_IN_ATOMIC_AND_FETCH_4:
    4484                 :         586 :                 case BUILT_IN_ATOMIC_AND_FETCH_8:
    4485                 :         586 :                 case BUILT_IN_ATOMIC_AND_FETCH_16:
    4486                 :         586 :                   optimize_atomic_op_fetch_cmp_0 (&i,
    4487                 :             :                                                   IFN_ATOMIC_AND_FETCH_CMP_0,
    4488                 :             :                                                   true);
    4489                 :         586 :                   break;
    4490                 :         184 :                 case BUILT_IN_SYNC_AND_AND_FETCH_1:
    4491                 :         184 :                 case BUILT_IN_SYNC_AND_AND_FETCH_2:
    4492                 :         184 :                 case BUILT_IN_SYNC_AND_AND_FETCH_4:
    4493                 :         184 :                 case BUILT_IN_SYNC_AND_AND_FETCH_8:
    4494                 :         184 :                 case BUILT_IN_SYNC_AND_AND_FETCH_16:
    4495                 :         184 :                   optimize_atomic_op_fetch_cmp_0 (&i,
    4496                 :             :                                                   IFN_ATOMIC_AND_FETCH_CMP_0,
    4497                 :             :                                                   false);
    4498                 :         184 :                   break;
    4499                 :             : 
    4500                 :         615 :                 case BUILT_IN_ATOMIC_OR_FETCH_1:
    4501                 :         615 :                 case BUILT_IN_ATOMIC_OR_FETCH_2:
    4502                 :         615 :                 case BUILT_IN_ATOMIC_OR_FETCH_4:
    4503                 :         615 :                 case BUILT_IN_ATOMIC_OR_FETCH_8:
    4504                 :         615 :                 case BUILT_IN_ATOMIC_OR_FETCH_16:
    4505                 :         615 :                   optimize_atomic_op_fetch_cmp_0 (&i,
    4506                 :             :                                                   IFN_ATOMIC_OR_FETCH_CMP_0,
    4507                 :             :                                                   true);
    4508                 :         615 :                   break;
    4509                 :         152 :                 case BUILT_IN_SYNC_OR_AND_FETCH_1:
    4510                 :         152 :                 case BUILT_IN_SYNC_OR_AND_FETCH_2:
    4511                 :         152 :                 case BUILT_IN_SYNC_OR_AND_FETCH_4:
    4512                 :         152 :                 case BUILT_IN_SYNC_OR_AND_FETCH_8:
    4513                 :         152 :                 case BUILT_IN_SYNC_OR_AND_FETCH_16:
    4514                 :         152 :                   optimize_atomic_op_fetch_cmp_0 (&i,
    4515                 :             :                                                   IFN_ATOMIC_OR_FETCH_CMP_0,
    4516                 :             :                                                   false);
    4517                 :         152 :                   break;
    4518                 :             : 
    4519                 :       70971 :                 case BUILT_IN_MEMCPY:
    4520                 :       70971 :                   if (gimple_call_builtin_p (stmt, BUILT_IN_NORMAL)
    4521                 :       65540 :                       && TREE_CODE (gimple_call_arg (stmt, 0)) == ADDR_EXPR
    4522                 :       16177 :                       && TREE_CODE (gimple_call_arg (stmt, 1)) == ADDR_EXPR
    4523                 :       84863 :                       && TREE_CODE (gimple_call_arg (stmt, 2)) == INTEGER_CST)
    4524                 :             :                     {
    4525                 :       11962 :                       tree dest = TREE_OPERAND (gimple_call_arg (stmt, 0), 0);
    4526                 :       11962 :                       tree src = TREE_OPERAND (gimple_call_arg (stmt, 1), 0);
    4527                 :       11962 :                       tree len = gimple_call_arg (stmt, 2);
    4528                 :       11962 :                       optimize_memcpy (&i, dest, src, len);
    4529                 :             :                     }
    4530                 :             :                   break;
    4531                 :             : 
    4532                 :       10352 :                 case BUILT_IN_VA_START:
    4533                 :       10352 :                 case BUILT_IN_VA_END:
    4534                 :       10352 :                 case BUILT_IN_VA_COPY:
    4535                 :             :                   /* These shouldn't be folded before pass_stdarg.  */
    4536                 :       10352 :                   result = optimize_stdarg_builtin (stmt);
    4537                 :       10352 :                   break;
    4538                 :             : 
    4539                 :       35436 :                 default:;
    4540                 :         768 :                 }
    4541                 :             : 
    4542                 :       35436 :               if (!result)
    4543                 :             :                 {
    4544                 :     1070776 :                   gsi_next (&i);
    4545                 :     1070776 :                   continue;
    4546                 :             :                 }
    4547                 :             : 
    4548                 :        5767 :               gimplify_and_update_call_from_tree (&i, result);
    4549                 :             :             }
    4550                 :             : 
    4551                 :        5768 :           todoflags |= TODO_update_address_taken;
    4552                 :             : 
    4553                 :        5768 :           if (dump_file && (dump_flags & TDF_DETAILS))
    4554                 :             :             {
    4555                 :           0 :               fprintf (dump_file, "Simplified\n  ");
    4556                 :           0 :               print_gimple_stmt (dump_file, stmt, 0, dump_flags);
    4557                 :             :             }
    4558                 :             : 
    4559                 :        5768 :           old_stmt = stmt;
    4560                 :        5768 :           stmt = gsi_stmt (i);
    4561                 :        5768 :           update_stmt (stmt);
    4562                 :             : 
    4563                 :        5768 :           if (maybe_clean_or_replace_eh_stmt (old_stmt, stmt)
    4564                 :        5768 :               && gimple_purge_dead_eh_edges (bb))
    4565                 :             :             cfg_changed = true;
    4566                 :             : 
    4567                 :        5768 :           if (dump_file && (dump_flags & TDF_DETAILS))
    4568                 :             :             {
    4569                 :           0 :               fprintf (dump_file, "to\n  ");
    4570                 :           0 :               print_gimple_stmt (dump_file, stmt, 0, dump_flags);
    4571                 :           0 :               fprintf (dump_file, "\n");
    4572                 :             :             }
    4573                 :             : 
    4574                 :             :           /* Retry the same statement if it changed into another
    4575                 :             :              builtin, there might be new opportunities now.  */
    4576                 :        5768 :           if (gimple_code (stmt) != GIMPLE_CALL)
    4577                 :             :             {
    4578                 :        5768 :               gsi_next (&i);
    4579                 :        5768 :               continue;
    4580                 :             :             }
    4581                 :           0 :           callee = gimple_call_fndecl (stmt);
    4582                 :           0 :           if (!callee
    4583                 :           0 :               || !fndecl_built_in_p (callee, fcode))
    4584                 :           0 :             gsi_next (&i);
    4585                 :             :         }
    4586                 :             :     }
    4587                 :             : 
    4588                 :             :   /* Delete unreachable blocks.  */
    4589                 :      978216 :   if (cfg_changed)
    4590                 :         560 :     todoflags |= TODO_cleanup_cfg;
    4591                 :             : 
    4592                 :      978216 :   return todoflags;
    4593                 :             : }
    4594                 :             : 
    4595                 :             : } // anon namespace
    4596                 :             : 
    4597                 :             : gimple_opt_pass *
    4598                 :      285617 : make_pass_fold_builtins (gcc::context *ctxt)
    4599                 :             : {
    4600                 :      285617 :   return new pass_fold_builtins (ctxt);
    4601                 :             : }
    4602                 :             : 
    4603                 :             : /* A simple pass that emits some warnings post IPA.  */
    4604                 :             : 
    4605                 :             : namespace {
    4606                 :             : 
    4607                 :             : const pass_data pass_data_post_ipa_warn =
    4608                 :             : {
    4609                 :             :   GIMPLE_PASS, /* type */
    4610                 :             :   "post_ipa_warn", /* name */
    4611                 :             :   OPTGROUP_NONE, /* optinfo_flags */
    4612                 :             :   TV_NONE, /* tv_id */
    4613                 :             :   ( PROP_cfg | PROP_ssa ), /* properties_required */
    4614                 :             :   0, /* properties_provided */
    4615                 :             :   0, /* properties_destroyed */
    4616                 :             :   0, /* todo_flags_start */
    4617                 :             :   0, /* todo_flags_finish */
    4618                 :             : };
    4619                 :             : 
    4620                 :             : class pass_post_ipa_warn : public gimple_opt_pass
    4621                 :             : {
    4622                 :             : public:
    4623                 :      571234 :   pass_post_ipa_warn (gcc::context *ctxt)
    4624                 :     1142468 :     : gimple_opt_pass (pass_data_post_ipa_warn, ctxt)
    4625                 :             :   {}
    4626                 :             : 
    4627                 :             :   /* opt_pass methods: */
    4628                 :      285617 :   opt_pass * clone () final override { return new pass_post_ipa_warn (m_ctxt); }
    4629                 :      978236 :   bool gate (function *) final override { return warn_nonnull != 0; }
    4630                 :             :   unsigned int execute (function *) final override;
    4631                 :             : 
    4632                 :             : }; // class pass_fold_builtins
    4633                 :             : 
    4634                 :             : unsigned int
    4635                 :      110100 : pass_post_ipa_warn::execute (function *fun)
    4636                 :             : {
    4637                 :      110100 :   basic_block bb;
    4638                 :             : 
    4639                 :     1061277 :   FOR_EACH_BB_FN (bb, fun)
    4640                 :             :     {
    4641                 :      951177 :       gimple_stmt_iterator gsi;
    4642                 :    10176301 :       for (gsi = gsi_start_bb (bb); !gsi_end_p (gsi); gsi_next (&gsi))
    4643                 :             :         {
    4644                 :     8273947 :           gimple *stmt = gsi_stmt (gsi);
    4645                 :     8273947 :           if (!is_gimple_call (stmt) || warning_suppressed_p (stmt, OPT_Wnonnull))
    4646                 :     7753047 :             continue;
    4647                 :             : 
    4648                 :      520900 :           tree fntype = gimple_call_fntype (stmt);
    4649                 :      520900 :           bitmap nonnullargs = get_nonnull_args (fntype);
    4650                 :      520900 :           if (!nonnullargs)
    4651                 :      421542 :             continue;
    4652                 :             : 
    4653                 :       99358 :           tree fndecl = gimple_call_fndecl (stmt);
    4654                 :      192601 :           const bool closure = fndecl && DECL_LAMBDA_FUNCTION_P (fndecl);
    4655                 :             : 
    4656                 :      358764 :           for (unsigned i = 0; i < gimple_call_num_args (stmt); i++)
    4657                 :             :             {
    4658                 :      259406 :               tree arg = gimple_call_arg (stmt, i);
    4659                 :      259406 :               if (TREE_CODE (TREE_TYPE (arg)) != POINTER_TYPE)
    4660                 :      259259 :                 continue;
    4661                 :      162797 :               if (!integer_zerop (arg))
    4662                 :      154755 :                 continue;
    4663                 :        8042 :               if (i == 0 && closure)
    4664                 :             :                 /* Avoid warning for the first argument to lambda functions.  */
    4665                 :          18 :                 continue;
    4666                 :        8024 :               if (!bitmap_empty_p (nonnullargs)
    4667                 :        8024 :                   && !bitmap_bit_p (nonnullargs, i))
    4668                 :        7857 :                 continue;
    4669                 :             : 
    4670                 :             :               /* In C++ non-static member functions argument 0 refers
    4671                 :             :                  to the implicit this pointer.  Use the same one-based
    4672                 :             :                  numbering for ordinary arguments.  */
    4673                 :         167 :               unsigned argno = TREE_CODE (fntype) == METHOD_TYPE ? i : i + 1;
    4674                 :         167 :               location_t loc = (EXPR_HAS_LOCATION (arg)
    4675                 :           0 :                                 ? EXPR_LOCATION (arg)
    4676                 :         167 :                                 : gimple_location (stmt));
    4677                 :         167 :               auto_diagnostic_group d;
    4678                 :         167 :               if (argno == 0)
    4679                 :             :                 {
    4680                 :          20 :                   if (warning_at (loc, OPT_Wnonnull,
    4681                 :             :                                   "%qs pointer is null", "this")
    4682                 :          20 :                       && fndecl)
    4683                 :          12 :                     inform (DECL_SOURCE_LOCATION (fndecl),
    4684                 :             :                             "in a call to non-static member function %qD",
    4685                 :             :                             fndecl);
    4686                 :          20 :                   continue;
    4687                 :             :                 }
    4688                 :             : 
    4689                 :         147 :               if (!warning_at (loc, OPT_Wnonnull,
    4690                 :             :                                "argument %u null where non-null "
    4691                 :             :                                "expected", argno))
    4692                 :           0 :                 continue;
    4693                 :             : 
    4694                 :         147 :               tree fndecl = gimple_call_fndecl (stmt);
    4695                 :         147 :               if (fndecl && DECL_IS_UNDECLARED_BUILTIN (fndecl))
    4696                 :          90 :                 inform (loc, "in a call to built-in function %qD",
    4697                 :             :                         fndecl);
    4698                 :          57 :               else if (fndecl)
    4699                 :          57 :                 inform (DECL_SOURCE_LOCATION (fndecl),
    4700                 :             :                         "in a call to function %qD declared %qs",
    4701                 :             :                         fndecl, "nonnull");
    4702                 :         167 :             }
    4703                 :       99358 :           BITMAP_FREE (nonnullargs);
    4704                 :             :         }
    4705                 :             :     }
    4706                 :      110100 :   return 0;
    4707                 :             : }
    4708                 :             : 
    4709                 :             : } // anon namespace
    4710                 :             : 
    4711                 :             : gimple_opt_pass *
    4712                 :      285617 : make_pass_post_ipa_warn (gcc::context *ctxt)
    4713                 :             : {
    4714                 :      285617 :   return new pass_post_ipa_warn (ctxt);
    4715                 :             : }
        

Generated by: LCOV version 2.0-1

LCOV profile is generated on x86_64 machine using following configure options: configure --disable-bootstrap --enable-coverage=opt --enable-languages=c,c++,fortran,go,jit,lto,rust,m2 --enable-host-shared. GCC test suite is run with the built compiler.